Google DeepMind og Singapores GovTech lanserer svindeldeteksjon som kjører direkte på telefonen
Google DeepMind og Singapores GovTech har kunngjort en AI-modell som fanger manipulerende svindelsamtaler i sanntid – helt på enheten. Med kunngjøringen kommer også en påstand om en mal for hvordan beskyttelse kan forenes med ende-til-ende-kryptering, og en rekke åpne spørsmål.
Kunngjøringen
Google DeepMind og Government Technology Agency of Singapore (GovTech) har utviklet en svindeldeteksjonsmodell som kjører direkte på smarttelefonen, ifølge et blogginnlegg av JJ Geewax og Miguel de Andrés i Google DeepMind, publisert 14. oktober 2026. Samarbeidet er en del av det som omtales som National AI Partnership med Singapores regjering, og modellen skal ifølge selskapet være optimalisert for å kjøre på typiske smarttelefoner i Singapore. Presentasjonen fant sted under Singapore International Cyber Week (SICW 2026).
Kjernen i verktøyet er at analysen skjer lokalt: Meldinger skal screenes for manipulerende samtalemønstre uten at innholdet sendes til en skytjeneste. Når modellen oppdager manipulerende mønstre, skal den utløse en sanntidsvarsling på brukerens enhet som råder brukeren til å stoppe opp og utvise forsiktighet før sensitiv informasjon eller penger deles.
Hvorfor Singapore
Begrunnelsen for innsatsen er et omfattende svindelproblem, slik det fremstilles i blogginnlegget: Svindel skal utgjøre over halvparten av rapporterte forbrytelser i Singapore og ha ført til mer enn 4 milliarder singaporeanske dollar i tap siden 2019. Samtidig skal taktikkene ha skiftet fra enkel phishing til kompleks sosial manipulasjon, der angripere bygger opp tillit gjennom overbevisende samtaler før de ber om penger. Slike svindelnummer skal nå stå for opptil 80 prosent av alle tap.
Det er verdt å merke seg at disse tallene alene stammer fra Google DeepMinds egen bloggpost. Underliggende offisiell kriminalstatistikk er ikke delt i materialet som ligger til grunn for denne artikkelen, og det foreligger ingen uavhengig sekundærdekning av kunngjøringen. Tallene bør derfor leses som selskapets og etatens egen ramme for problemet, ikke som uavhengig bekreftede fakta.
Slik fungerer totrinns-pipelinen
Teknisk beskriver blogginnlegget en totrinns arkitektur:
-
Første trinn: En lettvekts og effektiv klassifiseringsskjerm for innekomne meldinger. Denne skal bruke minimal strøm og er bygget for å fange potensielle trusler uten å tømme batteriet – et viktig hensyn for en modell som skal kjøre kontinuerlig på en vanlig telefon.
-
Andre trinn: Kontekstuell evaluering med DeepMinds finjusterte Gemma-modell, som analyserer et større utdrag av samtalen for å bekrefte en trussel eller forkaste et falskt alarm. Poenget med to trinn er å spare ressurser: Bare meldinger som klassifisereren flagger, sendes videre til den tyngre språkmodellen.
Finjusteringen skal være gjort på lokale svindelsamtaler – fra etterligninger av offentlige institusjoner, banker og lokale personer, til regionale svindelmetoder som er i ferd med å spre seg. Ifølge selskapet skal dette gi modellen evnen til å skille ufarlig sosial prat fra genuin manipulasjon, noe som er en avgjørende skilnader for å redusere antall falske varsler i hverdagslige samtaler.
Personvern og styring – som påstander
Hele leverandørregnskapet hviler på at behandlingen skjer på enheten, men selskapet redegjør også for hvordan selve utviklingen skal ha vært styrt:
- «Sovereign Sandbox»: Finjusteringen skal ha funnet sted i GovTechs egenadministrerte Google Cloud Platform-miljø, med isolerte treningsdata.
- Ingen borgerdata: Treningen skal strengt tatt ha utelatt privat eller personidentifiserbar informasjon om borgere, og bruke anonymiserte datasett avledet fra svindelmeldinger og etterretningskilder.
- Stresstesting: Modellen skal være testet mot syntetiske dialoger og lokale tekstkorpus.
Også her gjelder forbeholdet: Dette er selskapets egne fremstillinger, og det er ikke lagt frem noen uavhengig revisjon av verken datagrunnlaget eller styringsmekanismene. Lesere som vurderer personvernpåstandene, bør derfor behandle dem som lover fra utviklerne, ikke som dokumenterte egenskaper.
Mal for meldingsplattformer?
Den strategiske pointen i kunngjøringen er bredere enn Singapore. Blogginnlegget presenterer samarbeidet som en modell for meldingsplattformer som må balansere brukerbeskyttelse mot ende-til-ende-kryptering – en langvarig debatt der skybasert skanning av meldingsinnhold har møtt sterk motstand fra krypteringseksperter og personvernorganisasjoner.
Ettersom modellen kjører lokalt, er argumentet at innholdet aldri forlater telefonen, og at ingen tredjepart – verken plattform eller myndighet – får tilgang til samtalen. Mark Chen, direktør for Trust and Safety i GovTech Singapore, siteres i blogginnlegget: «Å bekjempe svindel skal ikke bety å ofre personvern. Sammen med Google DeepMind bringer vi avansert KI-beskyttelse rett inn på borgernes enheter. Dette lar oss fange svært målrettede, lokale svindelforsøk i sanntid, samtidig som personlige kommunikasjoner holdes helt private.»
Siteringen er oversatt fra engelsk; originalen er tilgjengelig i blogginnlegget. Det er GovTech selv, gjennom Chen, som fremmer påstanden om at kommunikasjonen holdes «helt privat» – en formulering som avhenger av at hele pipelinen faktisk kjører på enheten i produksjon, noe som ikke kan etterprøves ut fra tilgjengelig informasjon.
Åpne spørsmål
Flere av de mest praktiske detaljene mangler i kunngjøringen:
- Lanseringstidslinje: Blogginnlegget sier ikke når eller i hvilken form modellen blir tilgjengelig for brukere.
- Plattformintegrasjon: Ingen meldingsplattformer eller operativsystemer er navngitt som partnere, og det er uklart om verktøyet skal integreres i eksisterende apper eller leveres på annen måte.
- Målt nøyaktighet: Det er ikke oppgitt noen tall for treffprosent eller frekvens av falske positiver – nøkkeltall for ethvert system som skal varsle brukere om deres egne samtaler.
- Brukerstyring: Det er uklart om brukere kan velge funksjonen fra eller på, og hvordan slike innstillinger i så fall vil fungere.
- Rollefordeling: Blogginnlegget omtaler GovTech som samarbeidspartner, mens nettadressen til innlegget refererer til MDDI (Ministry of Digital Development and Information). Den nøyaktige ansvarsfordelingen mellom etat og departement er ikke presisert i materialet.
Alt i alt hviler kunngjøringen per nå på partenes egen fremstilling. Inntil det foreligger uavhengig dokumentasjon på nøyaktighet, faktisk distribusjon og personvernpraksis, er det rimeligste å lese annonsen som det den er: en teknisk retning – liten modell på enheten, finjustert lokalt, som svar på et stort samfunnsproblem – presentert av aktørene som står bak den.