Supervised autonomy: Trinn 3 i Boris Chernys modell handler om å gå fra pulten

Fra å se på til å være borte

Boris Cherny, som leder Claude Code hos Anthropic, delte i sommer en modell for hvordan team tar i bruk AI-agenter. Den har fem trinn, nummerert fra 0 til 4. Vi har tidligere skrevet om det øverste trinnet, AI-native. Råteksten vi fikk inn omtalte det som en «firestegsplan», men det er altså fem.

Kort fortalt: På trinn 1 jobber du sammen med én agent og godkjenner alt den gjør. På trinn 2 kjører du rundt ti agenter parallelt, men du sitter fortsatt og følger med. Trinn 3, «supervised autonomy», er der det skifter. Cherny anslår rundt hundre agenter, der noen agenter deler ut oppgaver til andre, og arbeid startes av tidsplaner og hendelser – ikke av at du skriver en prompt.

Utvikleren Dan Vega har formulert forskjellen godt: På trinn 1 og 2 skjer arbeidet mens du er der. På trinn 3 skjer det mens du ikke er i rommet. Du ser på resultater, kostnader, prioriteringer og unntak – ikke på hver enkelt handling.

Hvordan det ser ut i praksis

Det trenger ikke være hundre agenter for at prinsippet skal gjelde. Vega viser et enkelt eksempel: En løkke som får beskjed om å ta neste uavkryssede punkt i en todo-fil, gjøre det ferdig og krysse det av – ett punkt per runde. I hans test jobbet den seg gjennom tre funksjoner på rundt 26 minutter uten at han var involvert.

I Claude Code finnes verktøyene for dette allerede: /loop for gjentatte runder, planlagte oppgaver som starter på faste tidspunkter, og varsler eller statusoppdateringer som sendes til Slack eller e-post når noe er ferdig – eller når noe går galt. Typiske kandidater er kjedelige, gjentakende jobber: oppdatere avhengigheter, rydde i gamle grener, gå gjennom feillogger, eller skrive et sammendrag av gårsdagens endringer.

Det som må være på plass først

Ifølge Vega er det tre ting som gjør overgangen fra trinn 2 mulig. Agentene må jobbe i hver sin isolerte kopi av koden, for eksempel med git worktrees, så de ikke tråkker på hverandre. Trygge operasjoner må være forhåndsgodkjent, så agenten ikke står og venter på deg. Og en egen gjennomgangsagent må ta over kontrollen du tidligere gjorde selv. Testene og sperrene fra trinn 2 skal fortsatt kjøre automatisk.

Cherny peker på flaskehalsen: Ingen kan inspisere hver handling fra hundre agenter og deres underagenter. Uformelle instruksjoner, delte passord, usynlige kostnader og uklare regler for når et menneske skal varsles, gjør små feil til store. Løsningen er å gjøre regler om til sperrer systemet selv håndhever. Hver arbeidsflyt bør ha en navngitt eier, godkjente kilder, tillatte handlinger, en kostnadsgrense, kvalitetstester, terskler for når du skal varsles, en logg – og en stoppmekanisme som er testet.

Det siste er det mange hopper over. Test den ved å fjerne en tilgang, sende inn dårlige data eller sprenge budsjettet med vilje, og se om systemet stopper som det skal.

Begynn i det små

Du trenger ikke et «AI-byrå» for å ha nytte av dette. Start med én kjedelig oppgave du gjør hver uke, gi den en kostnadsgrense og en tydelig stoppregel, og la den kjøre én natt. Sjekk loggen neste morgen. Fungerer det, ta neste oppgave. Det er slik man faktisk kommer seg fra trinn 2 til trinn 3 – ikke ved å skru opp antallet agenter.

Ressurser

• Shelly Palmer: Boris Cherny's Steps of AI Adoption – alle fem trinn og anbefalte kontroller
• Dan Vega: The 5 Steps of AI Adoption – praktiske eksempler fra hvert trinn
• AI-native: det øverste trinnet – vår artikkel om trinn 4