.jpg){kind=link}
Anthropic: Claudes selvvurdering fanget over 100 000 barnemisbrukstilfeller hos én kunde i august
Siden juni 2026 har Claude i det skjulte vurdert sine egne fullførte samtaler for tegn på misbruk, og flagget dem til manuell etterkontroll. Systemet koster nesten ingenting å kjøre og fanget ifølge Anthropic over 100 000 tilfeller av barnemisbruk knyttet til én kunde i august — men selskapets egne tester viser at det er en svakere beskyttelse alene enn sanntidsblokkering.
Hva som har skjedd
Anthropic har offentliggjort en «selvvurderings»-funksjon i Claude som utfører en evaluering etter hvert svar. Claude ferdigstiller svaret sitt, og produserer deretter en kort intern vurdering av om samtalen viser tegn på potensielt misbruk, ifølge Crypto Briefing (2d903a1d). Samtalene som blir flagget, sendes til manuell etterkontroll uten at brukeren blir avbrutt eller merker noe.
Ifølge MSN-syndikert dekning av Anthropics egne utsagn (ab141b84) har funksjonen i praksis vært i stille drift siden Fable 5-bølgen i juni 2026. Crypto Briefing omtalte den som nyhet 29. oktober 2026. Tidslinjen er dermed uavklart: De to kildene er uenige om hvorvidt dette er en ny funksjon eller en allerede kjørende løsning som først nå annonseres.
Hvordan mekanismen fungerer
Rett etter at Claude genererer et svar, legger systemet inn en skjult instruksjon som ber modellen gå gjennom utvekslingen. Claude produserer så en kort intern kjennelse som noterer tre ting: om forespørselen var skadelig, hvilken type skade det eventuelt gjelder, og en prioritetspoengsum for menneskelig etterkontroll (ab141b84).
Poenget med designet er at vurderingen bygger på modellens egen dømmekraft fremfor en fast regelliste. Det gjør at systemet kan fange opp misbruk som ikke matcher kjente mønstre — Anthropic hevder at da forskere fjernet eksempler på svindel og cyberangrep helt fra treningsdataene, oppdaget modellen fortsatt 90 prosent av disse truslene (ab141b84, angitt som Anthropics eget utsagn).
Kostnadssiden er bevisst liten: Hver vurdering legger til omtrent ti tokens og under to prosent ekstra inferenskostnad, og funksjonen gjelder alle Claude-modeller utgitt siden Fable 5-bølgen i juni 2026 (2d903a1d, tilskrevet Anthropic). Det er dette som gjør at det kan kjøres på hver eneste samtale.
Hva Anthropic hevder systemet oppnår
Alle tallene nedenfor er Anthropics egne oppgivelser, formidlet gjennom sekundær dekning og ikke uavhengig verifisert:
- 78 prosent av potensielt skadelige samtaler ble flagget (2d903a1d).
- 94 prosent av høyprioritetstilfellene ble fanget opp (2d903a1d).
- Feilpositiv raten var omtrent 1 prosent (2d903a1d).
Anthropic peker også på et konkret tilfelle: Alene i august flagget selvvurderingen over 100 000 tilfeller av barnemisbruksmateriale knyttet til en enkelt kunde, som Anthropic straks meldte til myndighetene (ab141b84, formidlet via sekundær dekning).
Hva systemet ikke makter alene
Anthropics egne cybersikkerhetstester setter funksjonen i perspektiv. Når selvvurderingen var eneste beskyttelse, lyktes angripere i å omgå systemet 54 prosent av tiden. Det er en forbedring fra 79 prosent uten beskyttelser i det hele tatt, men en dedikert sanntidsblokkering er vesentlig bedre og reduserte angrepsutbyttet til 25 prosent (ab141b84, Anthropics interne tester).
Konklusjonen Anthropic selv trekker er derfor at dette ikke er en erstatning, men et komplement. Sanntidssikringene skal stoppe skadelige forespørsler før Claude svarer; ettersjekken tar seg av angrepene som likevel slipper gjennom (2d903a1d). Fordelen med den billigste andre linjen er at den ikke trenger å være perfekt for å ha verdi — den trenger bare å fange noe som ellers ville gått helt upåaktet hen, uten å bremses av brukeropplevelsen.
Hva som hviler utelukkende på Anthropics ord
Det finnes foreløpig ingen primærkilde: Ingen av kildene lenker til eller siterer Anthropics opprinnelige annonsering. Alle sentrale tall — fanget-prosentene, feilpositivraten, kostnaden, de 100 000 augusttilfellene og bypass-ratene — stammer fra sekundær omtale av Anthropics egne påstander om sitt eget system (2d903a1d, ab141b84). Det foreligger ingen uavhengig evaluering av selvvurderingslaget spesifikt.
I tillegg står tidslinjen ubesvart:Crypto Briefing rammer funksjonen inn som ny, mens MSN-dekningen beskriver en stille utrulling siden juni 2026. Det er uavklart når funksjonen faktisk ble satt i full drift.
Åpne spørsmål
To spørsmål følger av rapporteringen som ingen av kildene besvarer. Det første gjelder personvern: Et system som selektivt vurdere ferdige samtaler og sender dem til menneskelig gjennomgang, reiser spørsmål om hvor grensene går for lesing av brukerinnhold — noe kildene ikke går inn på. Det andre gjelder styringen av etterkontrollen: Hvem ser på de flaggede samtalene, etter hvilke kriterier, og med hvilke konsekvenser, er ubesvart i tilgjengelig materiale.
Det står også uklart hvordan 78-prosent-tallet er målt — mot hvilket grunnlag av faktisk skadelige samtaler, og hvordan de 1 prosent feilpositivene ble definert i praksis. Inntil Anthropic publiserer metodikk som andre kan kontrollere, må leseren regne med at alle ytelsesdata er selskapets egen selvrangering.