Anthropic sier Claude leder 26 prosent av modell-FoU – men hva «selvforbedring» betyr, er uavklart
På én uke i september 2026 gikk debatten om KI som forbedrer seg selv fra abstrakt spekulasjon til konkrete tall: Anthropic oppgir at Claude nå leder 26 prosent av selskapets modell-FoU, OpenAI har annonsert en automatisert «research intern», og Alibaba-sjef Eddie Wu erklærte at veien til kunstig superintelligens via selvforbedring er «stadig klarere». Samtidig publiserte teknikeren Ramez Naam et datadrevet motargument: Sløyfen er, etter hans anslag, 5–10 ganger for svak til å bærekraftig eksplodere. Denne analysen skiller det som er verifisert, fra det som er selskapspåstander med kommersielle insentiver – og fra det som er omstridte estimater.
Uken som gjorde debatten konkret
I perioden 20.–27. september 2026 landet en rekke meldinger som sammen flyttet rekursiv selvforbedring (RSI) fra fremtidsvisjon til målbart arbeid i gang.
Anthropic oppga at Claude nå leder 26 prosent av selskapets modell-FoU, og at det innebærer at modellen kan fullføre det meste av en gitt oppgave «end-to-end from a high-level prompt» – altså fra en overordnet instruks – mens den fortsatt står under menneskelig oppsyn (AP News). Dette er en selskapspåstand: AP bemerker at modellene ikke jobber fullt autonomt «at least not yet», og at Anthropic ikke sier hvor nær full autonom forbedring selskapet er.
OpenAI annonserte i september en automatisert «research intern» – et system som ifølge selskapets egen definisjon kan utføre veldefinerte forskningsoppgaver under menneskelig retning (samme AP-artikkel). Også her er det selskapet selv som beskriver hva systemet kan.
I Kina brukte Alibaba-sjef Eddie Wu hovedinnlegget på Apsara-konferansen i 2026 til å erklære at den tekniske veien mot kunstig superintelligens (ASI) er «stadig klarere», og pekte på RSI som prosessen: modeller som engasjerer seg i virkelige oppgaver og tilbakemeldinger, identifiserer egne begrensninger, og autonomt designer eksperimenter, syntetiserer data og evaluerer resultater i en kontinuerlig selvforbedringssløyfe (Unite.AI). Wu oppga også at Alibabas Qwen-team utforsker RSI med «meningsfull fremdrift», og at selskapet planlegger modeller på 5–10 billioner parametere. Alle kapasitets- og skalapåstander her er Alibabas egne; verken RSI-fremdriften eller parametertallet er uavhengig verifisert. (Merk: Unite.AI daterer artikkelen til 21. september, men plasserer nøkkelforedraget på konferansens dag 22. september – den eksakte datoen er uavklart i kildematerialet.)
Samtidig, ifølge en Reuters-sak gjengitt av Lee Enterprises 20. september, samlet lederne av USAs ledende KI-laboratorier seg i et sjeldent forent opprop om en pause i utviklingen, med advarsel om at teknologien «snart kan forbedre seg selv» og gli utenfor menneskelig kontroll (madison.com). Også Anthropic-sjef Dario Amodei har skrevet at rekursiv selvforbedring «could outrun our ability to understand and control these systems, and so must be pursued very carefully, if at all» – sitert i Ezra Kleins kronikk i New York Times 20. september (NYT). Kronikken er et meningsinnlegg som argumenterer for å stoppe laboratoriene fra RSI, ikke nøytral dekning.
Og så, 27. september, publiserte Ramez Naam essayet som utgjør motargumentet (rameznaam.com).
«RSI» betyr forskjellige ting for forskjellige selskaper
Et av de mest slående funnene i APs rapportering er hvor divergerende definisjonene er: Ledende KI-selskaper definerer rekursiv selvforbedring ulikt. Noen definerer det som enhver form for KI-tilbakemelding på modellforbedring; andre definerer det som KI som arbeider mot målet fullt autonomt (AP News).
Det betyr at når en leder sier «RSI er nær», er det ofte uklart hva som faktisk blir lovet. Anthropics 26 prosent-tall beskriver en modell som leder forskningsarbeid under menneskelig oppsyn – ikke en modell som forbedrer seg selv uten mennesker i loopen. OpenAIs «research intern» er per definisjon begrenset til «veldefinerte forskningsoppgaver under menneskelig retning». Wus beskrivelse, derimot, peker mot en kontinuerlig autonom sløyfe – det mest ambisiøse enden av skalaen.
Cornell-forsker John Thickstun, assistant professor i informatikk, peker på at en støttende form for selvforbedring faktisk har pågått i årevis: «We have already, for years, been using these models in supportive roles for creating the next version of these models. So people use the past generation of models to write code for the AI systems that then create the next generation» (sitert i AP News). Poenget hans er at dette har gitt beskjedne resultater, ikke kreative sprang. Hvis «RSI» allerede skjer, og har gjort det lenge uten å løsne, er spørsmålet ikke om sløyfen finnes – men om den gir akselererende avkastning.
Naams motargument: 5–10 ganger for svakt
Her kommer Naams essay inn. Han stiller spørsmålet tittelen indikerer: Kan KI-selvforbedring overvinne avtakende avkastning?
Hovedsvaret hans er kvantitativt: «Given our best current data, the AI self-improvement loop would need to be roughly 5–10× stronger to sustain itself, let alone run away.» På norsk: Etter beste tilgjengelige data må sløyfen være omtrent 5–10 ganger sterkere bare for å holde seg oppe, og enda mer for å løsne (Naam, 27. september 2026). Dette er forfatterens eget analytiske anslag – ikke en verifisert måling, og ikke en konsensus. Essayet bygger på metoder og data som kun delvis er synlige i tilgjengelig materiale, og detaljene bak 5–10×-tallet må leses i fulltekst før de kan vurderes fullt ut.
Naam presenterer også en taksonomi som er nyttig for å sortere påstandene: Type 1 er produktivitetsgevinster – KI gjør forskere raskere, men menneskene driver fortsatt. Type 2–4 er økende autonomi under fortsatt avtakende avkastning – sløyfen blir mer selvstendig, men hver generasjon gir mindre. Type 5, selve løpslåsen til superintelligens, krever noe ingen har demonstrert: akselererende avkastning, der hver iterasjon gjør neste iterasjon mer enn proporsjonalt raskere eller bedre.
Konklusjonen hans er ikke at KI-progressen stopper. Tvert imot: «I expect incredibly rapid AI progress by the standards of nearly any other technology. But the evidence we have doesn't suggest a sudden explosion to incomprehensible superintelligence anytime soon.» Og han erkjenner at han kan ta feil.
Det er verdt å notere hva Naam ikke hevder. Han hevder ikke at autonomi ikke øker – Anthropics 26 prosent-tall og OpenAIs «research intern» passer fint inn i Type 2–3 i taksonomien hans. Han hevder at den økende autonomien så langt oppveies av avtakende avkastning i selve forskningsprosessen, slik at sløyfen ikke forsterker seg selv. Uenigheten handler derfor ikke om hvorvidt KI får en større rolle i sin egen utvikling – det er i bunn ubestridt – men om avkastningen per generasjon faller eller stiger.
Beviskraften – begge veier
En skeptisk lesning må veie begge sider mot hverandre.
Naams 5–10×-tall er, som påpekt, et estimat bygget på en spesifikk lesning av data om loopsvakheter – spesielt funn som knyttes til OpenAIs egen forskning i essayet. Det er ikke fagfellevurdert, metodene er kun delvis synlige i offentlig materiale, og forfatteren selv markerer usikkerhet. Samtidig har prognoser gjentatte ganger undervurdert KI-fremdrift – noe Naam selv innrømmer – så «avtakende avkastning har vunnet før» er ikke et bevis for at den vinner igjen.
På den andre siden: Påstandene om forestående RSI kommer fra parter med tydelige kommersielle insentiver. Anthropic og OpenAI konkurrerer om kapital delvis på grunnlag av nettopp disse evnene (briefs.co rapporterer i samme periode om IPO-drøftelser rundt Anthropic, en kilde med synlige tekniske feil som bør korrigeres mot CNBC/Reuters og derfor ikke legges stor vekt på her). Alibaba selger en helstakket KI-strategi og enorme modellplaner. «Veien til ASI er stadig klarere» er en kapteins påstand fra en konferanse scene, ikke et dokumentert resultat. Reuters-saken om pause-oppropet er i stor grad uleselig i gjengivelsen og kan bare bekrefte hovedbudskapet, ikke detaljene.
Det mest opplysende trekk ved uken er kanskje at begge leire egentlig er enige om to ting: At KI-systemer får stadig større rolle i sin egen utvikling (Anthropic og OpenAI dokumenterer det, Naam kategoriserer det), og at utfallet – kontroll og hastighet – er svært usikkert (derfor pause-oppropet, og derfor Naams forsiktighet). Det egentlige uenighetspunktet er snevrere enn retoriken antyder: om avkastningen per selvforbedringsgenerasjon er avtakende eller akselererende.
Hva som kan avgjøre saken
Debatten trenger ikke avgjøres med manifest. Den kan avgjøres med målbare indikatorer, og de fleste er allerede offentlige i prinsippet:
- Autonomi-andel av FoU. Anthropics 26 prosent-tall er et første datapunkt av denne typen. Hvis tallet stiger jevnt mot større andeler av forskningen uten tilsvarende økt menneskelig arbeid, støtter det akselererende avkastning. Hvis det flatner ut på 30–50 prosent med mennesker som fortsatt driver retningen, passer det Naams Type 2–3-bilde.
- Tid per iterasjonssløyfe. Akselererende avkastning krever at tiden fra hypotese til evaluert neste generasjon faller raskere enn vanskelighetsgraden stiger. Hvis syklustiden flater ut mens kapabilitetsgevinsten per generasjon synker, er det avtakende avkastning i praksis.
- Avkastning per generasjon. Gevinsten per modellgenerasjon – på benchmark, i forskningsproduktivitet, i kostnad per enhet kapabilitet – er den direkteste avkastningsmåleren. Dette er kjernen i Naams analyse og det mest åpne området for uavhengig etterkontroll.
De åpne spørsmålene er fortsatt store. Ingen av partene har offentliggjort metodikk som lar utenforståtte verifisere hverken Anthropics 26 prosent, Alibabas RSI-fremdrift eller Naams 5–10×-anslag i full dybde. Det finnes ingen uavhengig måling av avkastning per generasjon på tvers av laboratoriene. Og selv om Naam har rett om dagens sløyfe, sier det lite om hvor den lander om to år – han selv innrømmer at historien gir grunn til ydmykhet.
Det som er nytt etter uken 20.–27. september, er at argumentet ikke lenger handler om fremtidsbilder, men om tall som kan følges: en prosentandel, en parameterskala, et multiplikasjonsestimat. Tallene er ikke nødvendigvis i motsetning til hverandre – de fleste av dem kan være forenlige med Naams taksonomi – men de lar seg ennå ikke verifisere i full dybde. Det er spenningen mellom dem, ikke noen av dem alene, som vil vise hvilken retning sløyfen faktisk tar.