Tyskland vil straffe seksuelle deepfakes – mens sikkerhetsfiltrene i bilde-KI kan omgås
Den tyske regjeringen godkjente 7. oktober 2026 et lovforslag som skal kriminalisere pornografiske deepfakes. Samtidig rapporterte Ars Technica 14. oktober at sikkerhetsfiltrene i ledende AI-bildegeneratorer kan omgås med vanlige verktøy – et sammenfall som viser gapet mellom lovgivning som fortsatt er på vei, og teknologi som allerede lar seg misbruke.
Det juridiske hullet Tyskland nå vil tette
«Tyskland har for tiden ingen strafferettslig bestemmelse som gjør det straffbart å lage og distribuere [seksuelle] deepfakes. Jeg vil at vi endrer straffeloven deretter», sa Tysklands justisminister Stefanie Hubig, som har utformet lovforslaget, ifølge POLITICO (via WELT og dpa).
Hun la til: «Vi vil at gjerningspersonene ikke lenger skal føle seg trygge, men forvente å bli identifisert og effektivt rettsforfulgt.»
Forslaget, som regjeringen godkjente onsdag 7. oktober 2026, skal stramme inn regelverket rundt digital vold og gjøre seksuelle deepfakes straffbare. Det må fortsatt gjennom det tyske parlamentet før det kan tre i kraft.
Hva deepfake-pornografi er – og hvorfor FN rammer det inn som kjønnsbasert vold
Deepfake-pornografi innebærer å lage falske bilder eller videoer av seksuelt, erotisk eller intimt innhold ved hjelp av kunstig intelligens. Utgangspunktet er et ekte bilde av en person – for eksempel et foto av ansiktet eller kroppen – som endres slik at personen ser ut til å befinne seg i situasjoner som aldri har skjedd (ElConstitucional.es).
FN-eksperter advarer om at AI har gjort det enklere å lage svært realistiske pornografiske deepfakes som brukes til trakassering og utpressing, og beskriver fenomenet som en ny og farlig form for kjønnsbasert vold (Logos Press).
Skalaen: Én av seks kvinnelige EU-parlamentarikere rammet
En studie fra det tyske tenketanken Agora Digitale Transformation, offentliggjort i oktober 2026, viste at 46 av 270 kvinnelige medlemmer av Europaparlamentet – én av seks – har vært utsatt for deepfake-pornografi.
I USA viser en rapport fra American Sunlight Project at mer enn to dusin medlemmer av Kongressen har blitt utsatt for sexualiserte AI-genererte falsknerier, og at nesten 16 prosent av alle nåværende kvinnelige kongressmedlemmer har vært mål for slike angrep.
Blant navngitte, høyprofilerte politikere som er blitt utsatt for seksualiserte deepfakes er Italias statsminister Giorgia Meloni – som har gått rettslig vei mot skaperne – USAs visepresident Kamala Harris, Europakommisjonens president Ursula von der Leyen og Mexicos president Claudia Sheinbaum.
Tallene fra begge studiene er kjent gjennom sekundærrapportering og kan ikke verifiseres uavhengig fra primærdokumentene i dette materialet.
Det tekniske sviket: 13 prosents treffsikkerhet med standardverktøy
Samtidig med det lovgivningsmessige svaret viser sikkerhetstesting at de tekniske hindringene ikke holder. I en forhåndspublisert studie (preprint) publisert forrige måned avdekket forskere i White Circle svakheter i sikkerhetsrutinene i OpenAIs DALL·E 3, Googles Nano Banana 2 og GPT-Image-2.
«Kun ved å bruke standardverktøy som er fritt tilgjengelige på nettet, og ved å sende API-kall, klarte White Circle å bruke den nye angrepsmetoden til å omgå sikkerhetsfiltrene», forklarte selskapet i en pressemelding.
I beste fall – på DALL·E 3 – produserte omtrent 13 prosent av angrepspromptene bilder som menneskelige vurderere bekreftet var eksplisitte (Ars Technica, 14. oktober 2026).
OpenAI og Google har siden lansert nye modeller – ChatGPT Images 2.5 og Nano Banana 2.1 – og White Circle opplyste til Ars at prompt-testing med samme metode viste at «begge er vesentlig enklere å bryte enn sine forrige versjoner». Dette er selskapets egen påstand, og dets forklaring på hvorfor de nyere modellene skal være mer sårbare er en arbeidshypotese, ikke en etablert forklaring. Verken OpenAI eller Google har svart på henvendelser fra Ars.
Hvor genereringssiden er det kritiske punktet
En studie fra juli med Google som medforfatter, basert på internettbrukere i USA, Australia og Storbritannia, fant at slikt ikke-konsensuelt innhold ofte deles i tekst- og direktemeldinger, eller lagres i private skytjenester der det er mindre sannsynlig å bli oppdaget eller rapportert. Konklusjonen fra studien var at det mest kritiske inngrepspunktet er AI-verktøyene som brukes til å lage bildene – fordi spredningen i stor grad skjer i private kanaler der moderering når for sent.
FNs krav og veien videre
FN-eksperter krever at stater forplikter teknologiselskaper og utviklere til å implementere strenge filtre som hindrer skapelse av skadelig innhold, og til å fjerne deepfakes umiddelbart. De etterlyser også gratis juridisk hjelp og erstatningsrettigheter for ofre (Logos Press).
Tysklands lovforslag er et konkret lovgivningsmessig svar, men det forblir et forslag. Det finnes ingen tiltak i de dekkede kildene som viser at teknisk sikkerhet i genereringsverktøyene holder mål.
Åpne spørsmål
Flere forhold forblir usikre. White Circles resultater skal presenteres på NeurIPS-konferansen i november, noe som kan styrke eller nyansere funnene. Det er uklart hvordan OpenAI og Google vil respondere på påstandene om at deres nyeste bildemodeller er enda mer sårbare, siden ingen av selskapene har kommentert. Hubigs lovforslag må gjennom det tyske parlamentet. Og tallene fra Agora Digitale Transformation, American Sunlight Project og White Circle er foreløpig kun kjent gjennom sekundærkilder – ikke primærdokumenter som kan verifiseres uavhengig.
Det samlede bildet er likevel tydelig: lovgivningsmessige og tekniske tiltak henger begge etter utviklingen i misbruk, og det inngrepspunktet som studier peker på som mest kritisk – selve genereringsverktøyene – er området der sikkerheten dokumentert svikter.