Resonnementet må loggføres under kjøring: hvorfor etterpåforklaringer fra AI-agenter svikter
Innen én og samme uke i midten av oktober 2026 kom en rekke signaler om at AI-agenters ansvarlighet har flyttet seg fra teoretisk bekymring til praktisk styringsproblem: IBM presenterte undersøkelsesdata som viser at tre fjerdedeler av spurte EMEA-ledere forventer at en agent fullfører en hel forretningsoppgave og treffer en beslutning uten menneskelig inngripen innen 2027, AICPA utga et 51-siders veiledningsdokument om AI i årsrapportering og revisjon, og bransjemedier beskrev kontrollglippet i agentiske betalinger. Mot dette landskapet står et konkret rammeforslag — «auditable intelligence», fremsatt av praktiker Narasimha Reddy Annapareddy — som hevder at agentansvarlighet må løses som ingeniørproblem, ikke som rettlig eller etisk diskurs. Denne analysen går gjennom de tre tekniske kravene i rammeverket, setter dem mot det bredere bildet samme uke, og peker på hva som fortsatt er uavklart.
Uken som satte ansvarlighet på dagsorden
Under IBM Think on Tour EMEA 14. oktober 2026 presenterte selskapet forskning med to slående tall: Tre fjerdedeler av de spurte lederne på tvers av EMEA ventet at en agent innen 2027 skulle gjennomføre en komplett forretningsoppgave og treffe en beslutning uten menneskelig inngripen. Samtidig oppga 80 prosent at minst ett AI-relatert problem allerede hadde nådd styret eller toppledelsen (TechTarget).
Det siste tallet er kanskje det mest betydningsfulle: AI-spørsmål er ikke lenger noe som håndteres i IT-avdelingen. De havner der toppledelsen må svare. Det er verdt å merke seg at tallene stammer fra IBMs egen forskning, presentert på et IBM-arrangement, og at metodologi eller utvalgsstørrelse ikke er oppgitt i dekningen. De bør dermed leses som bedriftens bilde av markedsstemning, ikke som uavhengig måling.
Samme uke, 13. oktober, utga AICPA et 51-siders «practice aid» om AI, utviklet over flere år, med råd for to hovedområder: hvordan virksomheter bruker AI i finansiell rapportering og kontroller, og hvordan revisorer bruker AI i revisjonsprosessen (CFO Dive via Yahoo Finance). Og 16. oktober rapporterte PYMNTS om et kontrollglipp i agentiske betalinger, med analyse fra Troy Mann, SVP for produktledelse i FIS Global (PYMNTS).
Samme uke rapporterte CNBC også om en tredje gruppe som berøres av samme spørsmål: de uavhengige sikkerhetsevaluererne. Det kommer tilbake lenger ned.
Samtidighetene er ikke tilfeldige. Agentutplasseringer beveger seg nå fra pilotprosjekter inn i faktiske arbeidsflyter i finans, innkjøp og compliance — akkurat de områdene der dokumentasjon, sporbarhet og revisjonsspor allerede er lovpålagt eller bransjeforventet. Derfor dukker ansvarlighetsspørsmålet opp hos banksektoren, revisjonsbransjen og programvareleverandørene samtidig.
Rammeverket: «auditable intelligence»
Den mest konkrete besvarelsen av spørsmålet kom i en TechTimes-profil 16. oktober 2026 av Narasimha Reddy Annapareddy, som har konsentrert mye av sitt nyere arbeid rundt et prinsipp han kaller «auditable intelligence». Kravet er at hver konsekvensrik handling en virksomhets AI-agent foretar, må være knyttet til en verifiserbar datakilde, en loggført resonnementskjede og et beslutningspunkt som menneskelige reviewere kan nå — og der de kan undersøke, bestride og reversere handlingen (TechTimes).
Annapareddy bryter dette ned i tre tekniske krav, som ifølge profilen hver må oppfylles «by design» snarere enn gjennom politikk:
1. Kildesporbarhet. Enhver konklusjon en agent når, må kunne spores tilbake til den konkrete datakilden den trakk på — en post i ERP-systemet, en linje i et policydokument, en transaksjon i den historiske loggen. Uten dette blir hver agentbeslutning en sort boks som bare kan diskuteres i abstrakte termer.
2. Resonnementsdokumentasjon under kjøring. Resonnementet må dokumenteres mens det skjer — under inferens, ikke rekonstrueres i etterkant. Dette er kanskje rammeverkets viktigste tekniske poeng: Etterpåkonstruert forklaring av hvorfor en modell gjorde noe, er verken troverdig eller fullstendig, fordi modellens faktiske kjørekontekst ikke kan gjenskapes retrospektivt.
3. Overstyringspunkter for mennesker. Reviewere må ha tilgang til beslutningspunkter der de kan undersøke, bestride og reversere agentens handlinger. Sporbarhet uten mulighet til å handle, er bare overvåkning.
Ifølge profilen rammesetter Annapareddy selv ansvarlighetsproblemet i virksomhetens AI ikke primært som et rettslig eller etisk spørsmål, selv om det har konsekvenser for begge — men som et ingeniørproblem: Hvordan designer man et AI-agentsystem slik at hver konsekvensrik handling loggføres, attribueres og er tilgjengelig for gjennomgang i en form som tilfredsstiller organisasjonens styringskrav? (TechTimes).
Det er viktig å være presis her: Dette rammeverket er kjent gjennom en profileringsartikkel, ikke gjennom en teknisk artikkel, et kodeprosjekt eller uavhengig verifikasjon. Det er Annapareddys påstand om hvordan ansvarlighet bør bygges, ikke en etablert eller testet metode. Men som utgangspunkt for en debatt er det nyttig nettopp fordi det konverterer en abstrakt etisk diskusjon til tre konkrete krav som kan evalueres.
Hvorfor «by design, ikke etterpå»
Den sentrale begrunnelsen i rammeverket er at dokumentasjon må konstrueres under kjøring, ikke rekonstrueres etterpå. Etterpåkonstruert forklaring er svak av to grunner: Den kan ikke valideres mot den faktiske kjørekonteksten (hvilke data modellen så, hvilke instruksjoner den fikk, hvilke mellomtrinn den tok), og den skrives av aktøren som har interesse av å fremstille handlingen i et gunstig lys.
Det samme budskapet kom fra en uventet annen kant samme uke. IBM-ledere argumenterte under Think-arrangementet for at styring («governance») må bygges inn fra starten, ikke legges til i etterkant. Selskapet introduserte også Sovereign Core, en åpen kildekode-plattform som ifølge IBM selv skal gi organisasjoner større kontroll over distribusjon og drift av AI-miljøer (TechTarget). Også her gjelder forbeholdet: Dette er IBMs påstand om sin egen plattform, presentert på IBMs arrangement.
At en stor leverandør og en uavhengig praktiker uavhengig av hverandre lander på formuleringen «by design» er et signal om at bransjen har erkjent noe: Etterpåkonstruert compliance — der man skriver policyer som skal dekke systemer som ikke ble bygget for dem — holder ikke når agentene handler autonomt og i tempo.
Samme problem, andre sektorer
De samme bekymringene dukker opp i andre bransjer, med annen terminologi.
Betalinger. PYMNTS-rapporten beskriver et strukturelt problem i agentiske betalinger: Kjøpmenn kjenner det kunden ba om. AI-plattformer kjenner instruksjonene gitt til agenten. Banker kjenner kontoen, betalingskreditialen og transaksjonshistorikken. Disse signalene reiser ikke nødvendigvis sammen, og mye av informasjonen som trengs for å etablere agentens legitimitet, ligger utenfor utstederens tradisjonelle synsfelt — ifølge Troy Mann i FIS Global (PYMNTS). Dette er i praksis det samme problemet som Annapareddys kildesporbarhet, oversatt til finansinfrastruktur: Man trenger en måte å autentisere en maskins autoritet på, og det finnes per i dag ingen universell slik mekanisme.
Revisjon. AICPAs 51-siders veiledning viser at revisjonsbransjen anerkjenner at AI i finansiell rapportering og i revisjonsprosessen trenger standardiserte råd — ikke ad hoc-vurderinger (CFO Dive via Yahoo Finance). Flere år i utvikling antyder at bransjen har jobbet med problemet lenge før agent-AI ble allmennt tilgjengelig; dokumentene er altså ikke en reaksjon på en akutt krise, men en forberedelse for en bransje som forventer omfattende AI-bruk.
Uavhengige evaluatorer. CNBC rapporterte 11. oktober at uten føderalt regelverkspress har små ideelle tredjepartsorganisasjoner — METR, Apollo Research og Transluce — fått uforholdsmessig stor betydning som de facto-sikkerhetsvurderere. Anthropic-sjef Dario Amodei har lovet å innebygge uavhengige evaluatorer i selskapet, noe OpenAI-sjef Sam Altman raskt støttet (CNBC). Suresh Venkatasubramanian ved Brown University har reist bekymring om finansieringen av disse organisasjonene — et spørsmål som blir mer presserende når de fungerer som bransjens reputasjonelle infrastruktur.
Mønsteret på tvers av disse tilfellene er slående: Uavhengig av sektor og terminologi havner alle i samme type løsning — sporbarhet, dokumentasjon under kjøring og uavhengige kontrollpunkter. Ingen av aktørene foreslår at policydokumenter alene er tilstrekkelige.
Hva som fortsatt er uavklart
Det er viktig å være ærlig om bevisgrunnlaget her.
Rammeverket til Annapareddy er kjent utelukkende gjennom en profileringsartikkel. Det finnes ingen teknisk artikkel, noe kodelager eller uavhengig bekreftelse av hvordan de tre kravene implementeres i praksis, hvilke kostnader eller ytelsespåvirkninger de medfører, eller hvor godt de fungerer i produksjonsmiljøer. Fremstillingen i profilen presenterer Annapareddys egne påstander, og bør leses som det.
IBM-tallene er bedriftens egen forskning, presentert på IBMs markedsføringsarrangement, uten oppgitt metodologi eller utvalgsstørrelse. De beskriver sannsynligvis en reell stemning blant lederne som ble spurte, men de sier ingenting om hvor raskt agentautonomi faktisk vil bli utplassert i praksis.
For tredjeparts-evaluatorer er finansierings-, tilgangs- og rapporteringsstrukturene uløste. Uten et stabilt fundament risikerer bransjen å bygge sikkerhetskontroll på organisasjoner som er avhengige av frivillig innsats og prosjektfinansiering.
Og for betalingssektoren er det foreløpig ikke beskrevet noen konkret mekanisme for hvordan signalene fra kjøpmenn, AI-plattformer og banker skal samordnes — kun at problemet eksisterer.
Fra policy til infrastruktur
Fellesnevneren på tvers av IBMs operating model-budskap, AICPAs veiledning, betalingssektorens kontrollgap og de uavhengige evaluatorer er den samme: Ansvarlighet for AI-agenter skifter fra policydokumenter til infrastruktur. Spørsmålet er ikke lenger bare «hvilke regler bør gjelde?» men «hvilke egenskaper må systemene ha for at reglene kan håndheves i det hele tatt?»
Annapareddys tre krav — kildesporbarhet, resonnementslogging under inferens og tilgjengelige overstyringspunkter — gir en konkret start for organisasjoner som vurderer agentutplassering. Men de er et rammeforslag, ikke en standard, og bevisgrunnlaget for både rammeverket og de omkringliggende tiltakene er fortsatt tynt. Det neste året vil vise om bransjen klarer å konvertere disse prinsippene til testbare implementeringer — eller om ansvarlighet fortsatt i hovedsak består av godt formulerte intensjoner.