OpenAI bygger overgrepsklassifiserer med NCMEC – gratis, men bare for godkjente organisasjoner
Selskapet slipper en klassifiserer for seksuelle overgrep mot barn, med egen markering av KI-generert innhold, gratis til godkjente organisasjoner. Bakgrunnen er en rapportering som eksploderte: 400 000 generative KI-meldinger til NCMECs tippline i 2025, mot 67 000 året før.
Det som ble annonsert
OpenAI kunngjorde mandag 16. november 2026 på en pressebriefing i Washington, DC en klassifiserer som selskapet sier bedre kan oppdage seksuelle overgrepsbilder av barn – inkludert om materialet er KI-generert. Selskapet tilbyr også gratis tilgang for godkjente organisasjoner, mer veiledning til utviklere om hvordan denne typen innhold kan oppdages, og hjelp til å trene politiet i hvordan KI kan bistå etterforskninger (The Verge).
Klassifisereren er utviklet med hjelp fra National Center for Missing and Exploited Children (NCMEC), Tech Coalition og ROOST-prosjektet (Robust Online Safety Tools), ifølge The Hill. Verktøyet skal kombineres med manuell gjennomgang.
Problemene verktøyet skal adressere
NCMECs CyberTipline mottok 400 000 rapporter knyttet til generativ KI i 2025, en eksponentiell økning fra 67 000 i 2024, ifølge tall NCMEC har oppgitt og The Verge gjengir. Volumveksten er kjernen i problemet: Etterspørselen truer med å overbelaste tipplinenes kapasitet til å sortere og prioritere rapportene.
North Carolinas statsadvokat Jeff Jackson kalte tilstrømningen av KI-genererte overgrepsrapporter til NCMEC «eksplosiv» under OpenAIs arrangement – og advarte om at hvis utviklingen fortsetter, «vil det bety at vi mislykkes i oppdraget vårt» (The Verge).
Hva OpenAI hevder verktøyet gjør
OpenAI sier at klassifisereren kraftig reduserer falske positiver: Den flagger 48 prosent færre bilder, mens bildene den identifiserer er dobbelt så sannsynlige å inneholde overgrepsmateriale. Dette er selskapets egne tall, ikke uavhengig verifiserte resultater.
John Buckley, OpenAIs leder for offentlig politikk innen barnetrygghet, omtalte verktøyet som den første bredt tilgjengelige CSAM-klassifisereren med en egen markering for KI-generert materiale. Triage-verdien, forklarte han, ligger i skillet mellom fiktive og ekte barn: «Det er viktig for bransjen å kunne forstå hvilke bilder som kan inneholde et fiktivt barn fremfor et ekte barn» (The Verge).
Tilgang og distribusjon
OpenAI begrenser bevisst hvem som får verktøyet. Buckley sa til reportere mandag at verktøyet må i hendene på organisasjoner som kan håndtere CSAM, og at OpenAI ikke vil gi det til individuelle utviklere som ikke har den spesialiserte gjennomgangen som kreves, eller er registrert for å rapportere til NCMEC eller andre internasjonale meldingslinjer (The Hill).
I tillegg til klassifisereren innfører OpenAI nye tiltak i selve ChatGPT: Ved forsøk knyttet til CSAM vises en ny advarsel, den flaggede samtalen fjernes, og tilgangen til ChatGPT stoppes i 24 timer. Brukerne beholder tilgang til spesialiststøtte som skal hjelpe dem å stoppe skadelig atferd. Gjentatte brudd kan ifølge OpenAIs blogginnlegg føre til stenging av kontoen eller melding til myndighetene (gjengitt av The Hill).
Tredjepartsresultater – med forbehold
To evalueringer er sitert, begge via OpenAI og deltakende organisasjoner: AI-plattformen Fal oppgir at anmeldere bekreftet 72 % av flagg med høy konfidens som tidligere uidentifisert CSAM, mens SafetyKit rapporterer at klassifisereren oppdaget 90 % av tilfellene som involverte tegninger eller animasjoner som sexualiserer barn, i sin evaluering (Fox News).
Fox News bemerker at resultatene kommer fra OpenAI og deltakende organisasjoner, og at uavhengig testing vil være nødvendig for å avgjøre hvor pålitelig teknologien er på tvers av plattformer. Det er også uklart om Fal og SafetyKit brukte samme datasett eller metodikk, slik at de to tallene ikke kan sammenlignes direkte.
Hvordan det henger sammen
Kombinasjonen er logisk: Etter som generative modeller gjør det lettere å produsere overgrepsmateriale, flommer tipplinene over med rapporter der en stor andel viser seg å ikke handle om ekte barn – materiale som krever annen prioritering enn det som viser ekte barn. En markering for KI-generert innhold lar anmeldere sortere raskere. Selve tiltaket i ChatGPT – advarsel, fjerning og 24-timers utestengelse – er derimot et prevensjons- og avskrekkningstiltak, ikke et deteksjonsverktøy.
Det uavklarte
Effektiviteten av advarsels- og utestengelsestiltaket er ubevist. Fox News skriver at det vil kreve fortsatt evaluering. Også klassifisererens prestasjoner hviler foreløpig på selskapets og partnerorganisasjonenes egne tall; ingen uavhengig revisjon er sitert i de tilgjengelige kildene. Det er heller ikke oppgitt teknisk detalj om hvordan klassifisereren skiller KI-generert fra ekte materiale; ifølge The Hills rapportering skal verktøyet kombineres med manuell gjennomgang.
Åpne spørsmål: Hvor raskt godkjente organisasjoner faktisk får tilgang, hvordan verktøyet presterer på språk og plattformer utenfor de evaluerte, og om tilgangsbegrensningen til registrerte organisasjoner skaper flaskehalser for mindre aktører som ønsker å bruke det.
OpenAI builds abuse classifier with NCMEC – free, but only for approved organizations
The company is releasing a classifier for child sexual abuse imagery, with a dedicated flag for AI-generated content, made free to approved organizations. The backdrop is a reporting surge: 400,000 generative AI-related messages to NCMEC's tipline in 2025, up from 67,000 the year before.
What was announced
OpenAI announced at a press briefing in Washington, DC on Monday, November 16, 2026 a classifier the company says can better detect sexual abuse imagery of children – including whether the material is AI-generated. The company is also offering free access for approved organizations, more guidance for developers on how to detect this type of content, and help training law enforcement on how AI can assist investigations (The Verge).
The classifier was developed with help from the National Center for Missing and Exploited Children (NCMEC), the Tech Coalition, and the ROOST project (Robust Online Safety Tools), according to The Hill. The tool is to be combined with manual review.
The problem the tool is meant to address
NCMEC's CyberTipline received 400,000 reports related to generative AI in 2025, an exponential increase from 67,000 in 2024, according to figures NCMEC has provided and The Verge cites. The volume growth is the core of the problem: the demand threatens to overload the tipline's capacity to sort and prioritize the reports.
North Carolina Attorney General Jeff Jackson called the inflow of AI-generated abuse reports to NCMEC "explosive" at OpenAI's event – and warned that if the trend continues, "it will mean that we are failing at our mission" (The Verge).
What OpenAI claims the tool does
OpenAI says the classifier sharply reduces false positives: it flags 48 percent fewer images, while the images it identifies are twice as likely to contain abuse material. These are the company's own figures, not independently verified results.
John Buckley, OpenAI's head of child safety public policy, described the tool as the first broadly available CSAM classifier with a dedicated flag for AI-generated material. The triage value, he explained, lies in distinguishing fictional from real children: "It's important for the industry to be able to understand which images might contain a fictional child rather than a real child" (The Verge).
Access and distribution
OpenAI is deliberately restricting who gets the tool. Buckley told reporters on Monday that the tool must get into the hands of organizations able to handle CSAM, and that OpenAI will not give it to individual developers who lack the required specialized review, or who are not registered to report to NCMEC or other international hotlines (The Hill).
In addition to the classifier, OpenAI is introducing new measures in ChatGPT itself: attempts related to CSAM trigger a new warning, the flagged conversation is removed, and access to ChatGPT is paused for 24 hours. Users retain access to specialist support intended to help them stop harmful behavior. Repeated violations may, according to OpenAI's blog post, lead to account closure or a report to the authorities (as reported by The Hill).
Third-party results – with caveats
Two evaluations are cited, both via OpenAI and participating organizations: the AI platform Fal reports that reviewers confirmed 72 percent of high-confidence flags as previously unidentified CSAM, while SafetyKit reports the classifier detected 90 percent of cases involving drawings or animations that sexualize children, in its evaluation (Fox News).
Fox News notes that the results come from OpenAI and participating organizations, and that independent testing will be needed to determine how reliable the technology is across platforms. It is also unclear whether Fal and SafetyKit used the same datasets or methodology, so the two figures cannot be compared directly.
How it fits together
The combination is logical: as generative models make it easier to produce abuse material, the tiplines are flooded with reports where a large share turn out not to involve real children – material that requires different prioritization than material showing real children. A flag for AI-generated content lets reviewers sort faster. The ChatGPT measure itself – warning, removal, and a 24-hour suspension – is, by contrast, a prevention and deterrence measure, not a detection tool.
What remains unresolved
The effectiveness of the warning and suspension measure is unproven. Fox News writes that it will require continued evaluation. The classifier's performance also rests, for now, on the company's and partner organizations' own figures; no independent audit is cited in the available sources. Nor has technical detail been provided on how the classifier distinguishes AI-generated from real material; according to The Hill's reporting, the tool is to be combined with manual review.
Open questions: how quickly approved organizations will actually get access, how the tool performs on languages and platforms outside those evaluated, and whether the access restriction to registered organizations creates bottlenecks for smaller actors who want to use it.

