Nesten en tredjedel av helseorganisasjonene tar i bruk AI-agenter, delvis uten IT-godkjenning
Den amerikanske legeforeningen AMA lanserte 15. oktober et styringsrammeverk for agentbasert AI i helsesektoren — et forsøk på å sette standarder for verktøy som kan utføre flertrinnsoppgaver i klinisk behandling uten menneskelig tilsyn. Behovet er tydelig: I en undersøkelse blant 250 amerikanske helseledere sier 28 % at organisasjonen deres allerede har tatt i bruk slike verktøy, 44 % kjører pilotprosjekter, og 72 % oppgir at verktøy noen ganger implementeres uten IT-godkjenning. Rammeverket kommer imidlertid inn i et regulatorisk tomrom, uten føderal AI-regulering og samtidig med et parallelt arbeid i legestyreforbundet FSMB.
Fire spørsmål om kliniske AI-agenter
Rammeverket, som omtales av Healthcare Dive (gjengitt via Yahoo News), er organisert rundt fire spørsmål AMA vil bruke når foreningen vurderer kliniske AI-agenter:
- Hvilken klinisk funksjon utfører AI-en?
- Hva viser at den kan utføre denne funksjonen, og hva skjer hvis den svikter?
- Hva skal AI-en tillates å gjøre, og under hvilke vilkår?
- Hvem bærer ansvaret for risikoene og utfallene?
Spørsmålene dekker hele livssyklusen til et agentbasert verktøy: hva det skal gjøre, dokumentasjonen for at det faktisk kan gjøre det, grensene for bruken, og til slutt det som er kjernen i hele saken — hvem som svarer når noe går galt. Ifølge Healthcare Dives gjengivelse skal rammeverket gi innsikt i hvordan AMA planlegger å styre agentbasert AI etter hvert som verktøyene i økende grad brukes i klinisk behandling, blant annet innen ambient dokumentasjon, diagnostikk og pasientovervåking.
Prinsippet bak rammeverket oppsummeres i et sitat Healthcare Dive gjengir fra dokumentet: «Etter hvert som AI-evnene utvikler seg, må dokumentasjon, myndighet, tilsyn og ansvar holdes samtidig, i tjenesten for bedre pasientbehandling» («As AI capabilities advance, evidence, authority, oversight and accountability must remain aligned in service of better patient care»).
Det er verdt å være presis om hva rammeverket er: et styringsinstrument fra en bransjeorganisasjon, ikke bindende regulering. AMA setter en standard for hva organisasjonen mener god praksis er, men rammeverket gir ingen myndighet til å håndheve kravene. Leseren bør også vite at detaljene om rammeverket her stammer fra Healthcare Dives rapportering; det opprinnelige AMA-dokumentet er ikke verifisert direkte, slik at fullteksten og eventuelle nyanser ikke kan kontrolleres mot kildene.
Hvorfor agentbasert AI er annerledes
Det som skiller agentbasert AI fra tidligere kliniske AI-verktøy, er autonomigraden. Ifølge Healthcare Dives analyse kan disse verktøyene fullføre flertrinnsoppgaver uten menneskelig tilsyn — og det betyr at en unøyaktig eller skjev beslutning kan skade pasienter før en kliniker rekker å gripe inn.
Eksisterende ansvarsmønstre i helsesektoren bygger nettopp på at et menneske står mellom verktøyet og pasienten: En beslutningsstøtte som foreslår en diagnose, forutsetter at legen validerer den. Når en AI-agent utfører flertrinnsoppgaver selv — for eksempel å hente data, vurdere dem og iverksette tiltak — forsvinner dette mellomleddet, og med det spørsmålet om hvem som er ansvarlig når utfallet er feil. Det er dette ansvarshullet rammeverkets fjerde spørsmål retter seg mot.
AMA-ledelsens skepsis
Rammeverket er ikke et uttrykk for entusiasme. AMA-sjef John Whyte var nokså knusende i et intervju med CBS News og KFF Health News 9. oktober, seks dager før lanseringen (CBS News):
«Noen av disse verktøyene er rett og slett ikke klare for primsjonsvisning», sa Whyte. «Vi har ikke nok data om dem. Vi forstår ikke hvordan de fungerer, hvordan de bruker informasjonen. Det finnes ikke noe ansvar om disse verktøyene tar feil.»
Sitatet peker på de samme tre svakhetene rammeverket forsøker å adressere: utilstrekkelig dokumentasjon, uklar virkemåte og fravær av ansvar. At foreningens toppleder uttrykker såpass skepsis samtidig som organisasjonen lanserer et styringsrammeverk, antyder at målet er å sette krav til et marked som allerede beveger seg — ikke å bremse det.
Adopsjonen løper foran kontrollene
Tallene fra undersøkelsen blant 250 amerikanske helseledere illustrerer timingen: 28 % av organisasjonene har allerede satt agentbaserte AI-verktøy i drift, og 44 % driver piloter eller konseptbevis. Kanskje mest oppsiktsvekkende er at 72 % sier slike verktøy noen ganger implementeres uten IT-godkjenning.
Det siste tallet er særlig problematisk i styringsperspektiv. Hvis verktøy med klinisk relevans tas i bruk utenom den formelle IT- og kvalitetssikringskjeden, finnes det i praksis ingen instans som har vurdert dokumentasjon, feilmoduser eller ansvar — altså de tre første rammeverksspørsmålene — før verktøyet møter pasienter. Undersøkelsen er imidlertid ikke navngitt i Healthcare Dives rapportering, så sponsor, metode og dato lar seg ikke verifisere; tallene bør leses med det forbeholdet.
Et regulatorisk tomrom
Rammeverket kommer i en situasjon der det ifølge Healthcare Dive ikke finnes substantiell føderal AI-regulering i USA. Reguleringen skjer i stedet delstat for delstat: Ifølge juridisk rådgivnings- og konsulentselskap Manatt lanserte 47 delstater over 250 AI-forslag som berører helsesektoren i 2025. Resultatet er et lappeverk av lokale regler uten noen samlet standard — noe som er bakgrunnen for at bransjeorganisasjonene forsøker å fylle tomrommet selv.
FSMB-arbeidsgruppen er i gang
Parallelt arbeider Federation of State Medical Boards (FSMB) med egne retningslinjer for AI-verktøy som utfører kliniske funksjoner med begrenset eller ingen direkte legetilsyn. Arbeidsgruppen har 22 medlemmer, og AMA deltar. Ifølge STAT (14. oktober 2026) sa FSMB-president Humayun Chaudhry at et utkast av anbefalingene kan offentliggjøres i løpet av «uker til måneder».
De to initiativene er imidlertid separate, og kildene etablerer ikke noe koordinert forhold mellom dem. Det ville være en analyse for langt å påstå at AMA-rammeverket er et innspill til eller en forberedelse til FSMB-utkastet — selv om AMA får sete i arbeidsgruppen, hvilket gjør overlapping i innhold sannsynlig.
Åpne spørsmål
Flere spørsmål står ubesvart i det tilgjengelige kildematerialet:
- Hvordan forholder FSMB-utkastet seg til AMA-rammeverket? Når utkastet kommer i løpet av uker til måneder, vil det vise seg om de to dokumentene supplerer hverandre eller representerer ulike prioriteringer.
- Hvor bindende blir rammeverket i praksis? Som bransjestyring har det ingen håndhevningsmyndighet; effekten avhenger av om sykehus, leverandører og forsikringsselskaper adopterer de fire spørsmålene som innkjøps- og implementeringskrav.
- Hvor solid er adopsjonstallene? Siden undersøkelsen blant de 250 lederne ikke er navngitt, vet vi ikke hvem som sto bak den eller hvordan den ble gjennomført.
- Hva skjer når ingen har svaret på det fjerde spørsmålet? Rammeverket stiller spørsmålet om ansvar, men det er først gjennom regulering og rettspraksis at spørsmålet faktisk besvares.
Det klare bildet er likevel dette: Agentbasert AI har allerede nådd klinisk praksis i betydelig skala, delvis utenom IT-kontrollen, mens regelverket — føderalt, delstatsvis og bransjeinternt — fortsatt spiller catch-up. AMA-rammeverket er et forsøk på å sette minstekrav før tomrommet fylles på andre måter.