Kansellert AI-våpenvarsel sendte likevel væpnet politi til skole i Maryland
Et AI-basert våpendeteksjonssystem flagget en elev ved Kenwood High School i Maryland. To minutter senere kansellerte skolens sikkerhetsteam varselet. Sytten minutter etter kanselleringen kom væpnet politi likevel. Nå er hele hendelseskjeden gjenstand for et søksmål som kan få betydning for hvordan skoler over hele landet bruker lignende systemer.
Saken som ble reist
Den 17. november 2026 ble søksmålet Allen, et al. v. Omnilert, et al. innlevert i Circuit Court for Baltimore County i Maryland. Saksøkerne er fire nåværende og tidligere elever ved Kenwood High School: Taki Allen, Yui-Osa Ogbeide, Devon Thompson Jr. og Keith Winfield III. De representeres av Lawyers' Committee for Civil Rights Under Law, med Willkie Farr & Gallagher LLP som pro bono-advokater og Engel Law Group, P.C. (Let's Data Science)
Saksøkerne anklager Omnilert, skoledistriktet Baltimore County Public Schools (BCPS), fylkespolitiet og enkeltpersoner i politiet for uaktsomhet og konstitusjonelle brudd. De krever et pålegg mot videre bruk av Omnilert i skolene inntil det finnes protokoller som forhindrer politiresponser på kansellerte varsler, i tillegg til erstatning — størrelsen er ikke spesifisert i de tilgjengelige kildene (Ars Technica).
Hva som faktisk skjedde, minutt for minutt
Hendelsen fant sted den 20. oktober 2025, etter fotballtrening. I følge søksmålet satt fire unge menn og delte en pose Cool Ranch Doritos mens de ventet på skyss hjem, da systemet flagget en av dem som en potensiell bevæpnet person (Ars Technica).
Tidslinjen fra BCPS, gjengitt av Newsweek, ser slik ut (Newsweek):
- 19:04 — Omnilert utsteder et varsel fra Kenwood High School.
- Innen 19:06 — utpekte sikkerhetsansvarlige og en politirepresentant har gjennomgått bilder, konkludert med at det ikke forelå trussel, og kansellert varselet — et varsel som ifølge Ars Technica varslet både skoleledelsen og Baltimore County-politiet om at ingen respons var nødvendig.
- 19:17 — rektor Catherine «Kate» Smith kontakter skolens ressursoffiser etter å ha sett det opprinnelige varselet.
- 19:23 — den første offiseren ankommer.
Søksmålet anfører at minst seks politibiler kom med våpnene trukket, og at de unge ble satt i håndjern og ransaket. Disse påstandene er ikke verifisert; de stammer fra stevningen, ikke fra en offisiell etterforskning (Ars Technica).
Hva utløste varselet egentlig?
Den mest utbredte beskrivelsen av saken — at systemet «forvekslet en Doritos-pose med en pistol» — er ifølge Marylands Office of the Inspector General for Education ikke nøyaktig. I sin november 2025-etterforskning fant inspektøren at systemet ikke rett og slett forvekslet en blå chipspose med et våpen. Varselet ble utløst av en kombinasjon av elevens håndbevegelser, gjenstandens posisjon og dens refleksive egenskaper. Søksmålet anfører at systemet beregnet 90 prosent sannsynlighet for skytevåpen (Newsweek).
Detaljen er viktig for hvordan man forstår feilen. Et klassifiseringsargument basert på bevegelse og refleksjon er mer i tråd med hvordan visuelle deteksjonssystemer faktisk fungerer: de vurderer ikke gjenstander isolert, men mønstre i bildet som statistisk ligner våpenhåndtering. Det gjør også feilen vanskeligere å avhjelpe med enkle treningsdata — en chipspose som holdes på en bestemt måte, i et bestemt lys, kan ligge tett oppe mot de bildene modellen assosierer med skytevåpen.
Motstridende tall: 99 prosent mot 96 prosent
Søksmålet hevder at over 99 prosent av varslene i Baltimore Countys skoler var falske positive, med henvisning til inspektørens etterforskning. Men inspektørens egne funn er mer nyanserte, og tallene måler forskjellige ting (Newsweek):
- Omnilerts overvåkingsnivå filtrerte ut 96 prosent av objektene som programvaren opprinnelig flagget, uten at det krevde videre handling.
- Av varslene som ble videresendt til BCPS i perioden november 2023 til november 2025, krevde færre enn 1 prosent politinotifikasjon.
- Og avgjørende: færre enn 1 prosent betyr ikke at programvaren feilidentifiserte et skytevåpen i 99 prosent av tilfellene. Noen av de videresendte varslene gjaldt replika-våpen eller gjenstander som berettiget nærmere inspeksjon.
Forskjellen er at «falsk positiv» i søksmålets rammeverk omfatter alt som ikke var et reelt våpen i hendene på en trussel, mens inspektørens tall skiller mellom programvarens flagg, det menneskelige overvåkingslagets filtrering, og hvilke varsler som til slutt utløste politikontakt. Søksmålets valg av rammeverk og inspektørens mer kategoriserte funn peker i motsatt retning — og den spenningen er en av sakens kjernekonflikter.
Der den menneskelige kjeden brøt sammen
Uansett hvordan man veier tallene, var det programvaren alene ikke som sendte væpnede offiserer til skolen. Inspektøren fant svakheter i skolens prosedyrer som tillot allerede kansellerte varsler å bli formidlet til politiet som potensielle aktive trusler, og anbefalte prosedyrendringer og opplæring. Både BCPS og politiet anerkjente behovet for forbedringer (Newsweek).
Den nøyaktige menneskelige feilkjeden er imidlertid omstridt. Kontoen knyttet til Lawyers' Committee beskriver både teknologiske og menneskelige feil, og hevder at skolepersonell og politiet forsøkte å kansellere varselet, men at utilstrekkelige protokoller gjorde at væpnet politi ble sendt likevel (Ars Technica). BCPS' tidslinje peker mot noe annet: at rektor Smith kontaktet ressursoffiseren klokken 19:17 — elleve minutter etter kanselleringen — etter å ha sett det opprinnelige varselet. Hvorvidt hun unnlot å etterkomme kanselleringsnotifikasjonen, og hvorfor, er påstander i stevningen, ikke verifiserte fakta.
Utsagn som tilskrives offiserene under aksjonen — blant annet kommentarer om «dumme AI-kameraer» og advarsler om chipsposegjenstander — er likeledes alene dokumentert gjennom saksøkernes framstilling og må behandles som det.
Omnilerts posisjon — og markedsføringsspørsmålet
Omnilert er ikke uenig i det tekniske fact-mønsteret, men i fortolkningen. En talsperson for selskapet opplyste til CBS Baltimore at systemet «opererte som det var designet for, ved å rute en mulig trussel til menneskelig gjennomgang» (Let's Data Science). Med andre ord: Varslet ble flagget og rutet videre, mennesker gjennomgikk det, og mennesker kansellerte det — innenfor to minutter. At noe gikk galt etterpå, tilhører i denne fortolkningen skolens og politiets prosesser, ikke produktet.
Saksøkernes motsvar rammer nettopp skjøten mellom produkt og prosess. De hevder at Omnilert markedsfører et defekt produkt med løft om «nesten null falske positive» — et løfte som i praksis avhenger av menneskelig gjennomgang som prosessen ikke sikret (Ars Technica). Det er en kjent utfordring for hele human-in-the-loop-modellen: Når en leverandør kommuniserer feilrate fra det automatiserte laget, men den faktiske sikkerheten avhenger av et menneskelig lag med egne feilrater, hvem bærer da ansvaret for sammensatt skade?
BCPS har tidligere omtalt sin Omnilert-utrulling som den største av sitt slag for visuell AI-våpendeteksjon — en ramme som gir saken større rekkevidde enn ett distrikt (Ars Technica).
Damon Hewitt, president og administrerende direktør i Lawyers' Committee, oppsummerte saksøkernes diagnose slik: «Overavhengighet av kunstig intelligens-teknologi, blandet med udugelig kommunikasjon og koordinering mellom sentrale aktører, er en giftig kombinasjon» (Ars Technica).
Hva står på spill
Saken er den første store juridiske prøven — i alle fall den første av sitt omfang i de tilgjengelige kildene — på hva som skjer når et kansellert AI-varsel likevel fører til væpnet politirespons. Utsagnet den kan sette presedens for, gjelder ikke hva algoritmer får lov til å flagge, men hvordan institusjoner må organisere nedstrøms for dem:
- Pålegget. Saksøkerne ønsker at BCPS stopper bruken av Omnilert inntil protokoller som faktisk forhindrer politiresponser på kansellerte varsler er etablert. Domstolens holdning til det vil si mye om hvor ansvaret plasseres mellom leverandør og institusjon.
- Protokollspørsmålet i seg selv. Inspektørens funn peker mot en konkret teknisk løsning: kansellerte varsler må kunne nå både skoleledelse og politiet på en måte som ikke kan omgås — for eksempel med automatisk kanselleringssignal til politiets responssystem, eller krav om menneskelig verifisering før bevæpnet innsats mot et flagg uten ny hendelsesrapport.
- Erstatningsansvaret. Om konstitusjonelle krav mot offiserene og uaktsomhetskrav mot Omnilert overlever avvisningsforsøk, vil det formes av nettopp spørsmålet om kanselleringen var en protokollsvikt eller en individuell feil.
Flere spørsmål står åpent. Det finnes ingen offentliggjort fulltekst av stevningen eller inspektørens november 2025-rapport i det tilgjengelige materialet; alle tallene stammer fra saksøkernes framstilling eller sekundær dekning av dem. Omnilert har kun kommentert gjennom talspersonens uttalelse til CBS Baltimore. Og tidligere klager mot Omnilert — inkludert saker knyttet til Antioch High School — er referert i dekningen, men ikke dokumentert i detalj her.
Det mest konkrete er foreløpig dette: Programvaren utførte i hovedsak sin definerte oppgave — å flagge, ikke å dømme. Et menneskelig system gjorde det samme, raskere enn ventet. Likevel endte det med seks politibiler og håndjern, ifølge søksmålet. Det er gapet mellom disse lagene, ikke algoritmens feil alene, som nå skal avgjøres av en domstol i Baltimore County.

