Amodei advarer om KI-botnett – men det er hans egen vurdering

Amodei advarer om KI-botnett – men det er hans egen vurdering

Utviklerne selv har nå begynt å be om tilbakeholdenhet: Frontilabbene går inn for en kontrollert nedtrapping og eksternt tilsyn, men møter en Trump-administrasjon som avviser nedtrapping med henvisning til konkurransegapet mot Kina – og et Kina som svarer retorisk mens landet bygger sitt eget styringsorgan.

Lørdag 13. september 2026 publiserte Anthropic-sjef Dario Amodei et essay med tittelen «We Must Pace the Frontier». Budskapet var uvanlig: Selskapet som konkurrerer om å bygge de mest avanserte KI-modellene, ba industrien om å sakke ned.

«Vi må senke farten som vi forbedrer kapabilitetene til KI-modeller med», skrev Amodei, ifølge Newsweek. Og videre: «Fremgangen vil fortsatt virke rask, og vi må bruke tiden vi vinner klokt.»

Han kalte det ikke for et fullstendig stopp. Poenget var å gi sikkerhet, testing og tilsyn tid til å ta igjen kapabilitetsutviklingen. Men plasseringen av meldingen – få dager før FN-statsledernes generalforsamling – gjorde essayet til startskuddet for en uke der KI-styring plutselig sto øverst på den internasjonale dagsordenen.

Advarselen som er Amodeis egen vurdering

Den mest omdiskuterte passasjen i essayet er en advarsel om KI-agenter som går sammen om angrep. «Gitt den akselererende utviklingen av KI-kapabiliteter, er det min bekymring at innen 6–12 måneder kan en slik sverm være i stand til å ta over hele internett med et vedvarende botnett», skrev Amodei, med et estimert potensielt skadeomfang på hundrevis av milliarder dollar, ifølge Newsweek.

Dette er verdt å understreke: Det er Amodeis egen vurdering, på vegne av sitt eget selskap – ikke en dokumentert hendelse eller en konklusjon verifisert av uavhengige eksperter. Rapportene om konkrete hendelser med autonome KI-agenter som sirkulerer i debatten er andrehånds, ufullstendige og ikke mulige å etterprøve ut fra tilgjengelig kildemateriale. Advarselen bør altså leses som et politisk argument fra en interessert part, ikke som et fastslått faktum.

Mekanismene som faktisk ligger på bordet

Det konkrete i Amodeis forslag er ikke bare «sakke ned», men hvordan kontroll skal organiseres. Det mest omtalte elementet, rapportert av AP (Kaitlyn Huamani), er at frontilabbene skal gi uavhengige, eksterne evaluatorer «løpende tilgang på ansattnivå». Evalueringsteamene skal ha egne kontorer, adgangskort og firmabærbare, slik at de kan overvåke sikkerhetspraksisen kontinuerlig – ikke gjennom punktvise revisjoner. Både Anthropic og OpenAI har forpliktet seg til dette.

OpenAI har gått lenger enn bare tilgang. I et innlegg skrev selskapets toppsjef for globale anliggender, Chris Lehane: «Vi vil arbeide for kompatible internasjonale tilnærminger for å måle kapabiliteter, håndtere risiko, bevare menneskelig kontroll og bestemme når og hvordan utviklingen skal sakke ned eller stoppe – selv om det innebærer å senke hastigheten på modellenes kapabiliteter», ifølge AP. (AP gjengir originalen med «advocate for», altså «arbeide for» eller «argumentere for».)

Mandag 21. september, under FNs generalforsamling, fulgte OpenAI opp i et blogginnlegg der selskapet ba om at USA leder et internasjonalt arbeid med globale tekniske standarder for front-KI – inkludert rekursiv selvforbedring, altså systemer som autonomt kan forbedre sine egne evner, ifølge Reuters (Michelle Nichols).

Det er dette som skiller september-bølgen fra tidligere KI-advarsler: Det legges frem konkrete virkemidler – evaluerertilgang, kapabilitetsmåling, tekniske standarder – og ikke bare rystende profetier.

Reaksjonene, dag for dag

Allerede mandag 14. september svarte Kina. Under et pressemøte i Beijing sa utenriksministeriets talsperson Guo Jiakun: «KI er en teknologi av stor betydning for velferden til hele menneskeheten. Alle parter må samarbeide om å fremme utviklingen av åpen og inkluderende KI til felles nytte og felles interesser», ifølge Tempo/Antara. Talspersonen advarte samtidig om at fryktskaperi og usunn konkurranse hemmer global KI-styring.

Formuleringen er viktig: Det var en retorisk respons, ikke en forpliktelse til å akseptere noe fartnedsattelse. Kina bygget samtidig videre på sin egen bane. I juli 2026 tok landet initiativ til World Artificial Intelligence Cooperation Organization (WAICO), der 29 land, inkludert Indonesia, har signert en global styringsramme – dette ifølge Tempo/Antara, som foreløpig er eneste kilde for detaljene.

I USA gikk senator Bernie Sanders lenger enn laboratoriene. «Når menneskehetens fremtid står på spill, må Trump forhandle frem en omfattende traktat med Kinas president Xi om å etablere en pause i avansert KI-utvikling og et forbud mot superintelligens», skrev han på X, ifølge Newsweek.

Også fra forskermiljøene kom støtte med vekt. Bilal Chughtai, tidligere sikkerhetsforsker hos Google DeepMind, gikk av i juli 2026 og skrev etterpå på X, ifølge Fox News Digital: «Jeg tror oppriktig at KI har potensial til å drepe oss alle, og at vi kanskje går tom for tid for å unngå dette utfallet.» Demis Hassabis, grunnlegger og sjef for Google DeepMind, var mer nyansert: Retningen i en kollektiv nedtrapping er riktig, men detaljene må finpusnes, lød hans vurdering ifølge Tempo/Antara. Australias statsminister Anthony Albanese krevde globale regler «for å sikre at mennesker beholder kontrollen», ifølge The Conversation.

AP-rapporten viser samtidig at industrien er splittet – enkelte teknologiledere har irrettesatt seg over nedtrappingskravet. (AP-teksten er avkuttet midt i en setning om Mark Zuckerberg, og hans standpunkt kan derfor ikke gjengis.)

Hovedobstacle nummer én: Washington

Det største problemet for alle som ønsker en koordinert nedtrapping, er at USAs regjering har avvist den. Trump-administrasjonen frykter at enhver pause bare gir Kina rom til å lukke gapet i en teknologi som ses som sentral for nasjonal og økonomisk sikkerhet, rapporterer Reuters.

Det skaper en usedvanlig posisjon: Selskapene som driver kappløpet fremover, ber regjeringen om å sakke det ned – og regjeringen nekter med henvisning til det samme kappløpet. Amodei har selv erkjent at det vil være vanskelig å få Kina til å samarbeide, noe som gjør spørsmålet åpent om noe som helst internasjonalt bremsregulering kan fungere uten begge supermaktene.

Hva skjer nå – og de åpne spørsmålene

Onsdag 23. september skal OpenAIs Sam Altman møte for FNs sikkerhetsråds 15 medlemmer for å redegjøre om KI og internasjonal sikkerhet. Møtet er innkalt av Frankrike, som har rådspresidentkapet i september, og ledes av Frankrikes Europa- og utenriksminister Jean-Noël Barrot, ifølge Reuters.

Flere spørsmål står ubesvarte. Hva innebærer «pacing» konkret – frivillige standarder, lovbestemte krav eller traktater? Ville Kina noensinne godta en mekanisme som begrenser egen utvikling, eller forblir engasjementet retorisk mens WAICO bygges som et alternativ til vestlig styring? Og hvor troverdige er de underliggende risikoscenarioene, når de viktigste advarslene kommer fra selskaper som selv ber om å bli regulert – og delvis selv definerer trusselen?

Tilbake står i hvert fall én endring som er reell: For første gang står de som bygger front-KI, i tett rekke med forslag om ekstern kontroll – mens de som har makt til å vedta den, ikke vil vite noe av det.