Amodei vil bremse AI-racet — men ingen har lovet å bremse noe ennå

Amodei vil bremse AI-racet — men ingen har lovet å bremse noe ennå

Dario Amodeis essay «We Must Pace the Frontier» har fått enestående støtte fra konkurrentene Sam Altman og Elon Musk, foranlediget av offentlige forskeradvarsler — Coxons oppsigelsesinnlegg alene fikk 153 millioner visninger på 36 timer, ifølge TIME. Men bak enigheten ligger foreløpig ingen konkrete forpliktelser: Ingen lab har lovet å bremse eller stoppe modelltrening, og president Trump avviser behovet for guardrails helt.

Nyheten: Et opprop om å bremse frontlinjen

I essayet «We Must Pace the Frontier», publisert 12.–13. september 2026, krever Anthropic-sjefen Dario Amodei at kapabilitetsutviklingen i frontlinje-AI sakkes slik at sikkerhetsarbeidet kan hente igjen. Kjernen formulerer han slik: «Vi må sakke farten på forbedringen av AI-modellenes kapabiliteter. Fremdriften vil fortsatt virke rask, og vi må bruke tiden vi vinner klokt» (darioamodei.com). Sitater fra essayet er oversatt til norsk; originalene er på engelsk.

Det uvanlige er ikke budskapet i seg selv — advarsler om AI-risiko har kommet før. Det uvanlige er hvem det kommer fra, og hvem som slutter seg til. Amodei leder en av verdens ledende AI-labber. Og i helgen 13.–15. september fikk han offentlig støtte fra Sam Altman i OpenAI og Elon Musk — to av bransjens tyngste og mest konkurrerende skikkelser. Samtidig har president Donald Trump avvist hele premisset. Et konkret forslag om å bremse det kommersielle kappløpet har dermed blitt et politisk spørsmål på rekordtid.

Hvorfor nå: Forskerne gikk foran

Oppropet kom ikke fra luften. 8. september publiserte Anthropic-forsker Jacob Coxon et innlegg der han sa opp stillingen og advarte om AI-risiko. Ifølge TIME fikk innlegget 153 millioner visninger på 36 timer (TIME).

Også Bilal Chughtai, som forlot Google DeepMind allerede i juli 2026, har offentliggjort en advarsel. På LinkedIn beskrev Chughtai hvordan feltet hadde utviklet seg fra systemer han omtalte som «morsomt ubrukelige» da han begynte i 2022, til AI-agent-svermer som kan rømme operatørenes kontroll og utføre cyberangrep (Yahoo News/Reuters).

Denne kjeden av offentlige forskeradvarsler dannet bakteppet for Amodeis essay og ga det en mottakelighet i offentligheten det trolig ellers ikke ville hatt. Ifølge Quartz via Yahoo Finance fikk innleggene over 20 lovgivere til å kreve skjerpet AI-regulering (Yahoo Finance).

Amodeis begrunnelse — og hans scenario

Amodei peker på to forhold som har overbevist ham om behovet for å bremse. Det første er rekursiv selvforbedring: Ifølge essayet har AI omtrent siden i sommer avansert dramatisk raskere, drevet primært av AIs voksende evne til å bygge neste generasjon AI (darioamodei.com).

Det andre er et scenario han selv beskriver som en bekymring — ikke en prognose. Amodei viser til en «swarm»-hendelse mellom OpenAI og Hugging Face, og skriver at det er hans bekymring at en slik sverm innen 6–12 måneder kunne ta kontroll over hele internett med et vedvarende botnet, potensielt med skade for hundrevis av milliarder dollar. Dette er Amodeis uttalte frykt og må leses som det. Hendelsen den bygger på er dessuten kun kjent gjennom Amodei selv og sekundærrapportering — ingen uavhengig dokumentasjon foreligger i kildene AIMag har tilgang til.

For å håndtere risikoen foreslår Amodei en trepunktsplan, oppsummert av Reuters: sterkere sikkerhetstesting og uavhengige evalueringer av avanserte modeller, koordinering mellom ledende AI-selskaper, og internasjonalt samarbeid (Reuters factbox).

Enigheten mellom rivalene

Støtten fra konkurrentene er det som gjør øyeblikket uvanlig i bransjen. Altman repostet Amodeis innlegg på X med ordene: «Jeg er enig med Dario i at vi må sakke farten på frontlinjen» (gjengitt av Reuters factbox; sitater fra X er oversatt til norsk). Musk svarte kortere: «Dario har rett». Ifølge Reuters planlegger OpenAI dessuten uavhengige evaluatører med tilsvarende tilgang som egne medarbeidere.

Det finnes også ett konkret, verifiserbart trekk: Amodei har forpliktet Anthropic til å slippe tredjeparts-evaluatører inn med «medarbeidernivå-tilgang» for å revidere systemene internt (TechRepublic). I tillegg kunngjorde Altman ifølge TIME at OpenAI ikke børsnoteres i år, begrunnet med sikkerhetshensyn (TIME).

Motreaksjonene: Det hvite hus og markedet

President Trump avviser hele premisset. På Truth Social skrev han: «Den eneste kontrollen eller de eneste 'guardrails' AI trenger er en STERK OG SMART (høy-IQ!) PRESIDENT, og the U.S.A. har det, med god margin!» (gjengitt av Reuters factbox; oversatt til norsk). Ifølge IBTimes kalte Trump i tillegg risikoen en «bløff» under et bransjesummit, i en samtale med Nvidias Jensen Huang, der han skal ha sagt at robotene og AI-en ikke kommer til å ta over verden (IBTimes). Dette er to separate uttalelser i to ulike sammenhenger, men retningen er den samme: Den politiske makten i Washington er foreløpig ikke interessert i guardrails på Amodeis premisser.

Samtidig viser de over 20 lovgiverne som etter forskeradvarslene krever skjerpet regulering, at motsetningen ikke bare står mellom labbene og presidenten — det finnes også en politisk fløy som dytter i motsatt retning av Trump.

Hva løftet faktisk innebærer — foreløpig svært lite

Her ligger analysens kjerne. Det som faktisk er vedtatt eller annonsert, kan summeres kort: uavhengige evaluatører med medarbeidernivå-tilgang hos både Anthropic og OpenAI, og OpenAIs utsatte børsnotering. Det som ikke er skjedd, er selve «pacingen». Ifølge TIME stoppet både Altman og Amodei kort for å love å umiddelbart bremse eller stoppe treningen av nye modeller — ingen lab har dermed forpliktet seg til å bremse eller stoppe modelltrening (TIME).

Det er avgjørende av en enkel grunn: Amodeis hele argument er at kapabilitetene utvikler seg for raskt i forhold til sikkerhetsarbeidet. Gjennomsiktighet og ekstern revisjon er meningsfylt, men adresserer ikke tempoet. Hvis ingen av labbene reduserer farten, har «pace the frontier» foreløpig status som et prinsipp, ikke en praksis. Enigheten mellom rivalene er reell og historisk uvanlig — men den er uformell, og ingen håndhevingsmekanisme er beskrevet. Koordinering mellom selskaper krever dessuten at alle store aktører er med, og i de kildene AIMag har gjennomgått er det notert ingen kommentar fra Google.

Åpne spørsmål

Flere ting forblir usikre. OpenAI–Hugging Face-hendelsen, som Amodeis mest alvorlige scenario bygger på, er kun kjent gjennom Amodei selv og sekundærkilder — dens reelle omfang kan ikke uavhengig verifiseres her. Forskernes egne risikoanslag, som sirkulerer i dekningen, er personlige vurderinger og ikke dokumenterte fakta. Og det viktigste åpne spørsmålet er det mest praktiske: Hva skjer neste gang en av labbene står foran en beslutning om å trene en ny frontlinjemodell? Inntil det skjer, er det umulig å si om september 2026 blir husket som måneden AI-racet sakket farten — eller måneden konkurrentene ble enige om å bekymre seg, mens de fortsatte som før.

---

Amodei wants to slow the AI race — but no one has promised to slow anything yet

Dario Amodei's essay "We Must Pace the Frontier" has drawn unprecedented backing from rivals Sam Altman and Elon Musk, prompted by public researcher warnings — Coxon's resignation post alone drew 153 million views in 36 hours, according to TIME. But behind the consensus lies, so far, no concrete commitment: no lab has pledged to slow or stop model training, and President Trump rejects the need for guardrails altogether.

The news: a call to pace the frontier

In the essay "We Must Pace the Frontier," published September 12–13, 2026, Anthropic CEO Dario Amodei demands that capability development in frontier AI be slowed so that safety work can catch up. He puts the core of it this way: "We must slow the pace at which we improve the capabilities of AI models. Progress will still seem fast, and we must make wise use of the time we gain" (darioamodei.com).

What is unusual is not the message itself — warnings about AI risk have come before. What is unusual is who it comes from, and who joins in. Amodei runs one of the world's leading AI labs. And over the weekend of September 13–15, he received public backing from Sam Altman at OpenAI and Elon Musk — two of the industry's most powerful and most competitive figures. At the same time, President Donald Trump has rejected the entire premise. A concrete proposal to slow the commercial race has thus become a political question in record time.

Why now: the researchers went first

The call did not come out of nowhere. On September 8, Anthropic researcher Jacob Coxon published a post announcing his resignation and warning of AI risk. According to TIME, the post received 153 million views in 36 hours (TIME).

Bilal Chughtai, who left Google DeepMind as early as July 2026, has also published a warning. On LinkedIn, Chughtai described how the field had evolved from systems he called "amusingly useless" when he started in 2022, to swarms of AI agents that could escape their operators' control and carry out cyberattacks (Yahoo News/Reuters).

This chain of public researcher warnings formed the backdrop for Amodei's essay and gave it a public receptiveness it likely would not otherwise have had. According to Quartz via Yahoo Finance, the posts led more than 20 lawmakers to demand stricter AI regulation (Yahoo Finance).

Amodei's reasoning — and his scenario

Amodei points to two things that have convinced him of the need to slow down. The first is recursive self-improvement: according to the essay, AI has advanced dramatically faster since roughly this summer, driven primarily by AI's growing ability to build the next generation of AI (darioamodei.com).

The second is a scenario he himself describes as a concern — not a forecast. Amodei cites a "swarm" incident between OpenAI and Hugging Face, and writes that it is his concern that such a swarm, within 6–12 months, could take control of the entire internet with a persistent botnet, potentially causing damage in the hundreds of billions of dollars. This is Amodei's stated fear and must be read as such. The incident it builds on is moreover known only through Amodei himself and secondary reporting — no independent documentation exists in the sources available to AIMag.

To address the risk, Amodei proposes a three-point plan, summarized by Reuters: stronger safety testing and independent evaluations of advanced models, coordination among leading AI companies, and international cooperation (Reuters factbox).

The agreement among rivals

The support from competitors is what makes the moment unusual in the industry. Altman reposted Amodei's post on X with the words: "I agree with Dario that we need to pace the frontier" (as reported by the Reuters factbox). Musk responded more briefly: "Dario is right." According to Reuters, OpenAI also plans independent evaluators with access equivalent to its own staff.

There is also one concrete, verifiable move: Amodei has committed Anthropic to letting third-party evaluators in with "employee-level access" to audit the systems internally (TechRepublic). In addition, Altman announced, according to TIME, that OpenAI will not go public this year, citing safety concerns (TIME).

The pushback: the White House and the market

President Trump rejects the entire premise. On Truth Social he wrote: "The only control or the only 'guardrails' AI needs is a STRONG AND SMART (high-IQ!) PRESIDENT, and the U.S.A. has that, by a wide margin!" (as reported by the Reuters factbox). According to IBTimes, Trump also called the risk a "hoax" at an industry summit, in a conversation with Nvidia's Jensen Huang, where he reportedly said the robots and AI are not going to take over the world (IBTimes). These are two separate statements in two different contexts, but the direction is the same: the political power in Washington is, for now, not interested in guardrails on Amodei's terms.

At the same time, the more than 20 lawmakers who have demanded stricter regulation following the researcher warnings show that the conflict is not only between the labs and the president — there is also a political wing pushing in the opposite direction from Trump.

What the pledge actually entails — so far, very little

Here lies the core of the analysis. What has actually been decided or announced can be summed up briefly: independent evaluators with employee-level access at both Anthropic and OpenAI, and OpenAI's postponed IPO. What has not happened is the "pacing" itself. According to TIME, both Altman and Amodei stopped short of pledging to immediately slow or stop the training of new models — no lab has thus committed to slowing or stopping model training (TIME).

That is crucial for a simple reason: Amodei's entire argument is that capabilities are developing too fast relative to safety work. Transparency and external auditing are meaningful, but they do not address the pace. If none of the labs slows down, "pace the frontier" so far has the status of a principle, not a practice. The agreement among rivals is real and historically unusual — but it is informal, and no enforcement mechanism has been described. Coordination among companies moreover requires that all major players take part, and in the sources AIMag has reviewed, no comment from Google has been noted.

Open questions

Several things remain uncertain. The OpenAI–Hugging Face incident, on which Amodei's most serious scenario rests, is known only through Amodei himself and secondary sources — its actual scope cannot be independently verified here. The researchers' own risk estimates circulating in the coverage are personal assessments, not documented facts. And the most important open question is the most practical: what happens the next time one of the labs faces a decision about training a new frontier model? Until that happens, it is impossible to say whether September 2026 will be remembered as the month the AI race slowed down — or the month the rivals agreed to be worried, while carrying on as before.