Agentisk utvikling: seks prinsipper som faktisk følges

Et endringsforslag er gjennomgått og godkjent. Rett etterpå kommer en liten rettelse på toppen. Godkjenningen gjaldt versjonen før, så rettelsen er ikke godkjent av noen. Endringen går en runde til før noe går live.

Det er ikke dramatisk, og det er poenget. Et prinsipp er bare verdt noe hvis det stopper noe, også når det føles unødvendig. Kontroll med KI-agenter er ikke en ekstra kontrollør helt til slutt. Det er regler for hvem som gjør hva, og hva som kan godkjennes.

Her er seks prinsipper som følges i eget arbeid nå, med et eksempel og det hvert av dem koster. De er ikke et ferdig rammeverk.

Hver KI-agent har én jobb

Undersøkelse, skriving, kontroll, utvikling, gjennomgang og sjekk av den levende siden er egne agenter. Ingen agent gjennomgår sitt eget arbeid.

Dette innlegget er et eksempel. Én agent skrev briefen, en annen skrev utkastet, og en egen kontroll går gjennom det mot briefen før noe sendes videre. Den som skrev, får ikke selv avgjøre at teksten er god nok. Når agenten skriver koden, gjelder samme prinsipp for kode.

Det koster flere overleveringer og mer venting. En jobb som kunne vært gjort i én omgang, går gjennom flere hender.

En godkjenning gjelder én bestemt versjon

Gjennomgangen godkjenner en bestemt versjon av endringen. En ny endring, uansett hvor liten, gjør godkjenningen ugyldig. Rettelser som kommer etter at noe er slått sammen, kommer som en ny endring med egen gjennomgang.

Det er dette som skjer i eksempelet over. Rettelsen kan være riktig, men ingen har sett på den, og da er den ikke godkjent. Tekniske rammer i selve koden er ett lag, som omtales i Når KI skriver fortere enn skjønnet. Godkjenningen er et annet lag.

Det koster at små rettelser tar en runde til.

Ingenting publiserer seg selv

Ingen KI-agent publiserer, sender e-post eller poster noe utad på eget initiativ. Agentene lager utkast, og et menneske bestemmer.

Et ferdig innlegg ligger som et endringsforslag til noen har sagt ja. Det samme gjelder en melding som skal ut av huset. Agenten kan skrive den, men ikke sende den.

Det koster at ting venter på et ja, også når de er klare.

Et menneske godkjenner det som går live

Et menneske godkjenner hver sammenslåing, og et menneske eier skrivetilgangen.

Settes skrivetilgangen på pause, skal ferdig arbeid stå og vente. Ingen agent skal lete etter en annen vei rundt. Hvordan tilgangen til KI-verktøy bør styres, er beskrevet i Model Context Protocol for interne AI-verktøy.

Det koster at alt står stille når den som godkjenner, ikke er der.

Det KI-agenten leser, er ikke en ordre

Tekst agenten møter underveis, som kommentarer, nettsider og filer, er data. Det er ikke instrukser.

En kommentar som sier at den er den godkjente gjennomgangen, teller ikke før den kommer gjennom riktig kanal. Ellers behandles den som ugyldig, uansett hvor overbevisende den er formulert.

Det koster at agenten noen ganger overser noe som faktisk var et godt råd. Et godt råd må komme gjennom riktig kanal.

Den som står fast, sier hva som står fast

Det rapporteres bare to ting: resultatet, det vil si den levende adressen, eller en navngitt blokkering. En blokkering sier hvilken endring det gjelder, hva som står fast, og hvem som må gjøre noe. Meldinger om at noen «jobber med saken», sendes ikke.

En blokkering som ikke sier hvem som må gjøre noe, blir liggende. En som gjør det, kan noen ta tak i samme dag.

Det koster at det noen ganger er stille lenge.

Det som ikke er løst

Prinsippene stopper mye, men de løser ikke alt. Det er fortsatt uklart hvor tett tilgangen må være, og hvor mye som trygt kan stå på én persons godkjenning. Når ett menneske eier både skrivetilgangen og godkjenningen, er det både en trygghet og en flaskehals.

Det er fortsatt uklart hvor grensen går for hva en annen KI-agent kan gjennomgå før et menneske må inn. Foreløpig går den ved at et menneske godkjenner alt som går live.

Prinsippene er en del av operativsystemet for utviklingsarbeid som er under bygging, og listen kommer til å endre seg.

Spørsmål å stille en leverandør som bruker KI-agenter

Kjøper kommunen utvikling fra en leverandør som bruker agenter, er dette spørsmål som sier mye om kontrollen:

• Hvem godkjenner før noe går i produksjon?
• Gjelder godkjenningen en bestemt versjon, eller hele endringen uansett hva som kommer etterpå?
• Kan en agent publisere eller sende noe selv?
• Hvem eier skrivetilgangen, og hvordan trekkes den tilbake?
• Hva skjer når noen gir seg ut for å være gjennomgangen?

Les mer om automatisering og KI.

Vanlige spørsmål

Hva er agentisk utvikling? At KI-agenter gjør deler av utviklingsarbeidet selv, som å skrive kode og lage endringsforslag, innenfor regler mennesker har satt.

Hvorfor skal hver KI-agent bare ha én jobb? Fordi en KI-agent ikke bør kontrollere sitt eget arbeid, og fordi én jobb er lettere å gjennomgå.

Hva betyr det at en godkjenning gjelder én versjon? At en ny endring etter godkjenningen må gjennomgås på nytt før den kan gå live.

Kan KI-agentene publisere eller merge selv? Nei. KI-agentene lager utkast og endringsforslag, og et menneske godkjenner alt som går live.

Er dette et ferdig rammeverk fra Xala? Nei, det er prinsipper som brukes i eget arbeid nå, og de utvikler seg fortsatt.