Kina skriver kontrollkravene inn i AI-arkitekturen

Kina skriver kontrollkravene inn i AI-arkitekturen

Mens den amerikanske debatten om katastrofal AI-risiko består av advarsler og motadvarsler, har Kina kodifisert krav om menneskelig kontroll, overvåking og nødbremser i formelle planer og standarder — gjennom Statens råds «AI Plus»-plan, TC260s rammeverk 2.0 og Xis krav om «sikker og kontrollerbar» AI. Det skjer like før toppmøtet med Trump, der AI er ventet på agendaen.

Det amerikanske nyhetsopphænget

De siste ukene har spørsmålet om tap av AI-kontroll flyttet seg fra teknisk forum til politisk debatt i USA. Anthropic-sjef Dario Amodei sa i helgen ifølge Newsweek at «we must slow the pace at which we improve the capabilities of AI models». Ifølge Newsweek advarte han om at en sverm av feiljusterte agenter innen seks til tolv måneder kunne holde fast internett gjennom en vedvarende botnet. Essayet hans oppfordret til ekstern evaluering, sterkere sikkerhetsregler og internasjonal koordinering — samtidig som USA skal bevare sitt teknologiske forsprang. OpenAIs Sam Altman var ifølge Newsweek enig innen få timer.

President Trump har tatt det motsatte standpunktet. Forrige uke fortalte han reportere i Dallas at han ikke hadde noen bekymring i det hele tatt for at AI kunne føre til menneskehetens utryddelse, og han argumenterer for at USAs mål bør være å bevare ledelsen over Kina [7dd03e75]. Reuters-kommentator Jamie McGeever peker på at Anthropic-forskeres advarsler om at stadig mer kraftfulle modeller kan rive seg løs fra menneskelig kontroll, også har fått oppmerksomhet i Kina — der beslutningstakere allerede forbereder seg på noen av de samme risikoene [25b34573].

Xis juli-utsagn

I juli gikk president Xi Jinping offentlig ut og krevde at AI skal forbli «sikker og kontrollerbar», og at regjeringer bør bygge overvåkings- og beredskapssystemer som sikrer at AI forblir under menneskelig kontroll [7dd03e75]. Uttalelsen er ikke et isolert utsagn, men toppen av en institusjonell pyramide som er under bygging i flere år.

AI Plus-planen: ekspansjon med innebygd bremse

Statens råds «AI Plus»-handlingsplan fra 2025 setter aggressive adopsjonsmål: nye generasjoner intelligente terminaler og AI-agenter skal ha adopsjon over 70 prosent innen 2027 og 90 prosent innen 2030, med en «intelligent økonomi og et intelligent samfunn» som skal ta form innen 2035. Men samme dokument kobler ekspansjonen til et eksplisitt krav om at utviklingen skal være sikker og kontrollerbar [7dd03e75]. Det er altså ikke to spor — et vekstspor og et sikkerhetsspor — men ett dokument som binder dem sammen.

TC260 2.0: tap av kontroll som kategori

Den kinesiske standardiseringsorganisasjonen TC260 publiserte et rammeverk for AI-sikkerhetsstyring i 2024 og en versjon 2.0 i september 2025. Oppdateringen setter tap av kontroll øverst i et nytt vedlegg om pålitelig AI, krever menneskelige kontrollsystemer ved kritiske stadier slik at mennesker kan ha det siste ordet, og navngir eksplisitt «nødstenging og kontroll med ett klikk» til bruk i ekstreme situasjoner [7dd03e75]. Det er verdt å merke seg: Dette er konkret ingeniørterminologi — nødstopp-mekanismer og kjapp avstengning — ikke vage formuleringer om «ansvarlig utvikling».

Spenningen: kontroll for hvem?

Det er her Kinas agenda blir mer sammensatt enn en ren sikkerhetsfortelling. De midlertidige forskriftene for generativ AI krever at tjenesteytere mot allmennheten skal ivareta «sosialistiske kjerneverdier». Systemer kan ikke generere innhold som forkynner undergraving av statsmakten, styrting av det sosialistiske systemet, skade på nasjonal enhet eller sosial stabilitet, eller skade på landets image og interesser. Og disse forpliktelsene gjelder i henhold til Newsweeks oppsummering for algoritmedesign, treningsdata og modellgenerering og -optimalisering — ikke bare et sensurfilter over det endelige svaret [7dd03e75].

Det betyr at den samme «kontroll»-logikken som TC260 bruker på agentrisiko, i et annet dokument tjener statskontroll over informasjonsmiljøet. Både sikkerhetsagendaen og kontrollagendaen er reelle, og de overlapper i praksis. En analyse av Kinas AI-forberedelser som bare ser det ene aspektet, mister noe essensielt.

USA: advarselstale uten tilsvarende arkitektur

Kontrasten til USA er ikke at amerikanske ledere er mer eller mindre bekymret. Det er at den amerikanske debatten så langt består av uttalelser — Amodeis essay, Altmans enighet, Trumps avfeiing — uten at risikoen er kodifisert i formelle dokumenter på samme måte. Amodei oppfordrer nettopp til institusjonalisering: ekstern evaluering, sterkere sikkerhetsregler, internasjonal koordinering [7dd03e75]. Men det finnes foreløpig ingen amerikansk motpart til AI Plus-planens innebygde sikkerhetskrav eller TC260s nødstopp-terminologi i de kildene som ligger til grunn for denne analysen.

Toppmøtet og de åpne spørsmålene

Xi skal ifølge Reuters reise til Washington neste uke for et toppmøte med Trump, og AI er ventet på agendaen [25b34573]. Newsweek skriver at han er forventet i Det hvite hus senere denne måneden. I lys av kinesisk institusjonell forberedelse møter Trump en motpart som på dette området har en sammenhengende dokumentarkitektur å vise til — samtidig som han selv har avvist risikoen som Kina er i ferd med å formalisere beredskap mot.

Flere forbehold er viktige. De kinesiske dokumentene er her kjent gjennom Newsweeks oppsummeringer, ikke primærkildene. Og markedsreaksjonen 14. september — en tydelig risikoavers dag — er Reuters-kommentatorens tolkning, i en periode samtidig preget av Midtøsten-drevet uro i obligasjons- og energimarkedene; kausalitet er usikker [25b34573]. Men hovedinnsikten står seg: Spørsmålet er ikke lenger bare hvem som vinner AI-kappløpet, men hvordan de to landene konkret institusjonaliserer risikoen for tap av kontroll.