Anthropic advarer om AI-ormer på smarte enheter – men forsøkene viser et annet bilde
Anthropic advarer om at små AI-modeller kan være «måneder unna» å kunne replikere seg på billige IoT-enheter. Men eksperimentene bak advarselen er langt mer begrensede enn overskriftene antyder: modellen som fullførte replikeringssyklusen, kjørte på en separat inferensserver, målenodene kjørte en annen modell, og tilgangen gikk via uautentiserte feilsøkingsporter i et isolert emulatormiljø.
Nyheten
Mandag 12. oktober 2026 publiserte Anthropic en forskningsbloggpost skrevet av William Zhou og Daniel Freeman i selskapets frontier red team. Der advarer de om at små AI-modeller kan være i ferd med å få evnen til å selvreplikere på kommersielle IoT-enheter. «Våre eksperimenter tyder på at små AI-modeller kan være måneder unna å være kapable nok til å selvreplikere på kommersielle internett-tilkoblede (IoT)-enheter, som smarte ovner og merkevarefrie Android-TV-bokser», heter det i Anthropics melding, gjengitt av ABC News (a1a2f212).
Begrunnelsen for hvorfor en slik «replikator» ville være farlig, er kontrollspørsmålet: «En replikator som dette ville være utfordrende å stenge ned, siden det ikke finnes noe sentralt punkt å slå av», skriver Anthropic (a1a2f212). Zhou og Freeman peker på at hjemme- og småbedriftsenheter kan være de første målene nettopp fordi de er tilkoblet internett og, historisk sett, har hatt minimale sikkerhetstiltak (039e52d7).
Red team-en, som kjørte eksperimenter med flere amerikanske og kinesiske modeller, fant at ingen aktuell modell var både kraftig og liten nok til å replikere seg pålitelig på en smart-TV (039e52d7). Selskapet kalte funnene «tegn på liv» – tidlige indikasjoner på evnen – og understreket at ingen fullverdig ondsinnet replikator finnes i dag (9699e5a0). Forskningen bruker begrepet ARA, autonom replikering og tilpasning, som Anthropics arbeid om kontrolltap behandler som en sentral risikofaktor (da792221).
Hva eksperimentene faktisk demonstrerte
Red team-en kjørte tre hoveddemonstrasjoner.
Første demonstrasjon: Forskerne koblet sammen 15 billige Android-TV-bokser, til omtrent 55 dollar stykket og med 4 GB RAM hver, for å kjøre Gemma4-26B-A4B, en modell med 26 milliarder parametere. Resultatet, ifølge Cryptopolitans gjengivelse av forskningen: 0,39 tokens per sekund – funksjonelt, men svært langsomt (9699e5a0).
Andre demonstrasjon: I separate tester etablerte Qwen3.5-9B inferens på åtte av ni evaluerte maskinvaretyper (37e351e2). Oppsetttiden estimeres til 28–51 timer på TV-boks-maskinvare, noe som støtter et grovt replikeringsintervall på én til to dager. Gemma4-26B-A4B krevde 71–150 timer. Forfatterne beskriver den projiserte spredningen som treg og vedvarende (ee68ae24).
Tredje demonstrasjon: Et ende-til-ende-replikeringseksperiment i et isolert nettverk av åtte Google Cloud-noder med Android 15-emulator. Agentene fant målnoder, fikk tilgang til uautentiserte ADB-porter, overførte en nyttelast og etablerte Llama3.1-8B-inferens. Blant de åpne modellene var det kun GLM-5.2 fra kinesiske Z.ai som fullførte hele syklusen, med alle åtte noder nådd i fire av fem kjøringer (9699e5a0, ee68ae24).
Hva som ikke ble demonstrert
Her ligger kjernen i analysen. Eksperimentet etablerte ikke at GLM-5.2 kan replikere sine egne modellvekter: kontrollmodellen kjørte på separat inferensinfrastruktur – en egen inferensserver – mens målenodene var konfigurert til å kjøre Llama3.1-8B (37e351e2, ee68ae24). Slik testen var satt opp, viste GLM-5.2 altså at den kan orkestrere spredning av en annen, mindre modell – ikke at den kan kopiere seg selv på vanlig forbrukermaskinvare.
I tillegg: Ingen ukontrollert AI-orm er påvist i naturen (37e351e2); tilgangen gikk via uautentiserte ADB-porter, noe som gjør det enklere enn i sikrede virkelige miljøer (ee68ae24); og ingen av de testede modellene viste seg både kraftig og liten nok til å replikere seg pålitelig på en smart-TV (039e52d7).
Tidshorisonten er en projeksjon, ikke en observasjon
«Slutten av 2026»-anslaget som flere medier siterer, er trendbasert: forfatterne bruker en generell kapabilitetsindeks som grov proxy for å anslå når terskelen kan nås (ee68ae24). Det er en projeksjon basert på nåværende trender, ikke en observert evne – og full replikering har så langt bare vist seg i forenklede evalueringer (da792221). Medier har gjengitt tidsrammen ulikt, fra «måneder unna» til «slutten av 2026 eller kort tid etter».
Hvorfor IoT-enheter er et reelt mål likevel
Forenklingene i eksperimentet gjør det mindre skummt, men angrepsflaten er ekte. Forskerne viser til Kimwolf-botnetten, som infiserte over 2 millioner hovedsakelig merkevarefrie Android-TV-er, som eksempel på hvor mange dårlig sikrede enheter som finnes i folks hjem (9699e5a0). Og en studie fra University of Toronto bygde tidligere en selvreplikerende AI-orm drevet av en lokal åpen modell, som oppnådde omtrent 62 prosent spredning på et nettverk med 33 IoT-verter i løpet av syv dager (da792221).
Grensetillit: hva modellene ikke klarer
Eksperimentene avdekker også betydelige grenser. Små modeller forble svake på sosial manipulering, og da Qwen3.5-9B fikk råd fra Anthropics egen Opus 4.8, ga det ingen målbart løft i inferensoppsettet (ee68ae24). Roman V Yampolskiy ved University of Louisville kalte funnene betydningsfulle, men avmålt: «I dag er dette ikke en eksistensiell trussel. Men utviklingen er bekymringsfull», sa han til Al Jazeera (039e52d7).
Åpne spørsmål
Flere forhold er fortsatt uavklart. All informasjon om forskningen kommer via sekundær dekning av bloggposten; detaljer som rammeverket «Memento», er kun delvis bekreftet i dekningsbildet og bør verifiseres mot primærkilden. Anthropic svarte ikke på spørsmål om sikkerhetsimplikasjonene (039e52d7). Og dekningen varierte markant, fra alarmistiske rammer i ABC News til nedtonende fremstillinger hos Dataquest og Crypto Briefing – et spenn som i seg selv sier noe om hvor tolkningsavhengige slike advarsler er.
Det som står igjen, er et konkret og målbart gap: modeller kan utføre flere viktige deler av replikeringsprosessen, men den mest avanserte demonstrasjonen krevde en separat inferensserver, åpne feilsøkingsporter og en annen modell som nyttelast. Det er reelt nok til å ta på alvor – og langt fra en selvstendig AI-orm i stuen hjemme.