Google DeepMind og Singapores GovTech bygger svindeldeteksjon som kjører direkte på telefonen
Uten at meldingene forlater telefonen: Google DeepMind og Singapores GovTech har annonsert en svindeldeteksjonsmodell bygget på Gemma, med totrinns analyse av manipulative samtaler. Men modellen er annonsert, ikke lansert – verken lanseringsdato eller presisjonstall foreligger.
Google DeepMind og Government Technology Agency of Singapore (GovTech) annonserte 14. oktober 2026 en svindeldeteksjonsmodell som skal advare brukere om manipulative samtaler – uten at private meldinger sendes til skyen. Kunngjøringen kom under Singapore International Cyber Week og er en del av Googles nasjonale AI-partnerskap med Singapore. Bakgrunnen er alvorlig: Singapores innbyggere har tapt over 4 milliarder singaporeanske dollar på svindel siden 2019, alene 410,6 millioner dollar i de første seks månedene av 2026, ifølge The Straits Times.
Hvordan systemet fungerer
Modellen er bygget på Googles lette, åpne Gemma-modell, finjustert på lokale svindelsamtaler. Treningsmaterialet spenner ifølge kunngjøringen, slik det er gjengitt av Unite.AI, fra etterligninger av offentlige institusjoner, banker og lokale kjente personer til aktuelle regionale svindelopplegg.
Deteksjonen foregår i to trinn. I trinn én screened en lettvekts og energieffektiv klassifikator innkommende meldinger med minimalt strømforbruk, med fokus på å fange opp potensielle trusler. I trinn to gjør den finjusterte Gemma-modellen en kontekstuell vurdering av et større utdrag av samtalen for å bekrefte en trussel eller forkaste et falskt alarm. Oppsettet er en klassisk avveining: Den billige klassifikatoren avgjør når den dyre modellen i det hele tatt skal slås på, slik at telefonen ikke bruker mye ressurser på hver enkelt melding.
Hvorfor kjøring på enheten betyr noe
Det centrale løftet er at ingen meldingsinnhold forlater telefonen. I et blogginnlegg datert 14. oktober skriver Google DeepMinds JJ Geewax og Miguel de Andrés, gjengitt av The Straits Times: «Når modellen er utplassert, vil den kun kunne få tilgang til samtaler på enheten med brukerens samtykke.» De opplyser videre at verken Singapores regjering eller Google vil kunne lese brukernes samtaler gjennom modellens utrulling.
For singaporske myndigheter er dette et bevisst poeng. «Å bekjempe svindel skal ikke bety å ofre personvern. Sammen med Google DeepMind bringer vi avansert AI-beskyttelse rett inn på innbyggernes enheter», sa Mark Chen, direktør for trust and safety i GovTech, til The Straits Times.
Utviklingen skal ha funnet sted under tre prinsipper, gjengitt av Unite.AI: «Sovereign Sandbox» innebærer at finjusteringen skjedde i GovTechs egen administrerte Google Cloud-miljø, slik at treningsdata holdt adskilt. «No Citizen Data» betyr at trening strengt utelukket privat eller personidentifiserbar informasjon, og i stedet brukte anonymiserte datasett fra svindelrapporter og etterretningsmateriale. Det tredje prinsippet, «Stress-testing», skal dekke motstandstesting av modellen.
Hvorfor Singapore
Svindeltapene i Singapore er store og fortsatt økende. Over 4 milliarder singaporeanske dollar siden 2019, og 410,6 millioner dollar alene i første halvår 2026, er tallene The Straits Times oppgir. Kunngjøringen, slik Unite.AI oppsummerer den, hevder også at svindel utgjør en stor andel av tapene og over halvparten av registrerte lovbrudd i landet – men disse tallene er selskapets egne påstander og er ikke verifisert mot offisiell statistikk.
Modellen er ikke det første mottiltaket. Ifølge Cryptobriefing opererer Singapore allerede med SATIS, som arbeider for politiet og avbryter rundt 20 000 ondsinnede nettsider i måneden, og rMSE, som skanner over 600 000 nettsider daglig. Det nye er at forsvaret flyttes fra infrastruktur og nettsider til selve samtalen på brukerens telefon – der mange svindelopplegg i dag kulminerer. Samme dag annonserte Google også at Singapore får tilgang til selskapets avanserte AI-verktøy for cybersikkerhet, som skal hjelpe cyberforsvarere med å finne, verifisere og fikse sårbarheter på minutter.
Kunngjoringen ble ifølge Cryptobriefing gjort av digitaliseringsminister Josephine Teo under Singapore International Cyber Week, som en del av innsatsen mot AI-drevet svindel. Unite.AI beskriver Google DeepMinds blogginnlegg som selve kjerneannonsen; den nøyaktige rekkefølgen mellom ministerens presentasjon og blogginnlegget er uklar i kildene.
Det vi ikke vet
Det viktigste forbehandlet: Modellen er annonsert, ikke utplassert. Verken Google DeepMind eller GovTech har oppgitt lanseringsdato, og The Straits Times skriver at det er ukjent om modellen blir en standardfunksjon i Android. Heller ikke presisjons- eller feilalarmstall foreligger – det finnes ingen offentliggjorte måltall for hvor godt systemet faktisk gjenkjenner svindel, eller hvor ofte det varsler om helt harmløse samtaler.
Distribusjonen er en egen flaskehals. Cryptobriefing peker på at en deteksjonsmodell bare hjelper hvis den er bygget inn i appene folk faktisk bruker, og det krever som regel samarbeid med meldingsplattformer og produsenter av enheter. Ingen slike avtaler er bekreftet.
Det er også verdt å merke seg kildegrunnlaget: Mekanikk- og styringsbeskrivelsene stammer fra Googles egen kunngjøring, gjengitt gjennom sekundærkilder som Unite.AI, The Straits Times og Cryptobriefing. Ingen primærkilde er offentlig tilgjengelig i dette grunnlaget, og Unite.AI oppgir selv at artikkelen er produsert av en KI-drevet researchagent og vurdert av redaksjonen.
Hva som må til for at dette blir beskyttelse
Løftet om fullt lokalt kørende svindeldeteksjon på vanlige smarttelefoner er teknisk krevende: En liten modell må both være presis nok til å fange manipulative mønstre og liten nok til å løpe på middels maskinvare uten å tømme batteriet. Totrinnspipelinen er én løsning på den avveiningen, men hvor godt den fungerer i praksis gjenstår å se. Til det kommer samtykkemekanismen: Modellen skal kun lese samtaler med brukerens samtykke, og hvordan det samtykket designes og oppleves i praksis er foreløpig ukjent.
Frem til Google oppgir dato, distribusjonsform og måltall, er den rette konklusjonen den kildene også peker mot: Et ambisiøst og personvernvenlig design foreligger – men ennå er det en kunngjøring, ikke en beskyttelse du kan slå på.