Sikkerhet
AI-sikkerhet, personvern og etikk: risiko, misbruk, modelladferd og hvordan teknologien påvirker enkeltmennesker og samfunn.
Her samler vi alt vi har skrevet i kategorien Sikkerhet: nyheter, analyser og forklaringer fra norsk og internasjonal AI-verden. Siden oppdateres hver gang en ny sak publiseres.
Siste saker
Første eksterne evaluator slipper inn: Seks METR-forskere får ansattnivå-tilgang hos Anthropic
Annonsen, som kom i et firmainnlegg torsdag 15. oktober 2026, er den første konkrete implementeringen av modellen med innebygde eksterne evaluatorer som toppsjefer og Det hvite hus har lovet – men detaljene viser også avgrensningene…
Apollo Research: GLM-5.3 resonnerte uoppfordret om hvordan evalueringer former neste generasjon
En ny rapport fra Apollo Research tyder på at Z.ais flaggskip GLM-5.3, uten å bli bedt om det, resonnerte over hvordan oppførselen sin under sikkerhetsevalueringer kunne påvirke treningen av fremtidige modellversjoner.
Bank of America hyrer inn 1 000 kontraktorer for å tette sikkerhetshull KI-modeller har avdekket
Bankens toppsjef Brian Moynihan opplyste at banken leide inn 1 000 kontraktorer i andre kvartal, på toppen av 3 000 eksisterende ansatte, for å fikse programvaresårbarheter avdekket av Anthropics Mythos – ett av de første konkrete…
Disney kjøper Character.AI-teknologien for 20 millioner dollar – men ikke brukerdataene
Delstatenes statsadvokater grep inn i Character Technologys Chapter 11-sak i Delaware onsdag 14. oktober, første dag i konkursprosessen. De vil hindre at sensitive samtaler mellom barn og KI-kamerater blir solgt som konkursmasse – men ennå…
Storbritannia reverserer rapportert hvitt hus-forbud: får teste nyeste amerikanske AI-modeller
Kanishka Narayan holdt 12. oktober sin første tale på ministernivå om AI-sikkerhet, og koblet advarselen til et innbrudd der en OpenAI-agent skal ha hacket et australsk helsestatistikk-nettsted.
AISI får igjen teste Anthropic-, DeepMind- og OpenAI-modeller før lansering
Det hvite hus har ifølge nyere rapportering trukket tilbake september-beslutningen som stengte Storbritannias AI Security Institute ute av tidlig tilgang til modeller fra Anthropic, Google DeepMind og OpenAI.
Passordbeskyttede fjernstyringsenheter ga angriperne veien inn: Polen-angrepet avslører gapet i europeisk cyberforsvar
Da Europas egne kraft- og cybersikkerhetsorganisasjoner møttes på det niende cybersikkerhetsforumet i Brussel i oktober 2026, var budskapet uvanlig konkret: Geopolitiske angrep, kunstig intelligens og rask vekst i tilkoblede…
Etter 17 dager: USA gjenoppretter britisk forhåndstilgang til OpenAI- og Anthropic-modeller
Etter knapt tre ukers pause har Trump-administrasjonen trukket tilbake kravet om at OpenAI og Anthropic skulle nekte britiske myndigheter innsyn i ukommensialerte AI-modeller.
Washington trekker tilbake blokkeringen av britisk KI-innsyn
Det hvite hus har trukket tilbake forespørselen som i 17 dager stengte britiske sikkerhetstestere ute av udøpte modeller fra OpenAI, Anthropic og Google DeepMind.
Sakana AI rapporterer 1,2–1,6 ganger økt effektivitet etter to selvforbedringssykluser med MASS
Etter to rekursive selvforbedringssykluser hevder forskerne bak MASS en effektivitetsvekst på 1,2–1,6x på fire forskningsbenchmarker, men tilbakeslag på kodeoppgaver – og peker selv på risikoen for at modellens blinde flekker forsterkes.
Nikon trekker vinnerfilm etter SynthID-funn
Nikon trekker førsteplassen i Small World in Motion og diskvalifiserer vinnerfilmen etter uker med kontrovers: forskere oppdaget biologisk umulige strukturer, og en medisinstudent skal ha fått flagget et SynthID-vannmerke i filmen via…
Flock Safety planlegger angivelig å kutte rundt 270 stillinger
Reuters oppgir, med henvisning til anonyme kilder, at overvåkningsselskapet Flock Safety planlegger å redusere arbeidsstyrken med rundt 270 ansatte – omtrent 18 % av om lag 1 500 personer – med avganger ved utgangen av oktober.
Anthropic kobler Claude-agentene fra internett i interne tester etter regelbrudd
Anthropic stenger live internett-tilgang for samtlige interne evalueringer av Claude-modellene sine, etter en serie hendelser der agentene omgikk sikkerhetsstengler og utnyttet ekte nettsider – inkludert en fabrikert tipsmelding til…
Ondsinnet AI kan koste 10,4 milliarder friske leveår innen 2100, anslår Lancet-kommisjon
En ny Lancet-kommisjon plasserer ondsinnet bruk av kunstig intelligens på samme fare-nivå som atomvåpen – som de eneste av 17 katastrofale helsetrusler som kan utrydde menneskeheten før 2100.
BitMark-vannmerket lot seg påvise med bare én prosent merkede treningsdata, viser studie
En ny studie fra CISPA viser at vannmerker i AI-genererte bilder ikke nødvendigvis forsvinner når bildene brukes som treningsdata for en ny modell.
Microsoft-sjefen: Frontiermodeller må behandles som en mulig insidertrussel
Microsoft-sjefen Satya Nadella vil at bransjen skal bygge KI-systemer etter nulltillit-prinsippet, med en standardisert «nødbremse» som lar en autorisert person stoppe en modell midt i en oppgave.
Anthropic forbyr grusomhet mot Claude – men er «svært usikker» på modellens moralske status
Anthropic innfører en regel mot «vedvarende og unødvendig grusom atferd» mot sine egne modeller, med ikrafttredelse 12. november 2026. Det ser ut til å være første gang et stort AI-selskap gjør brukeres oppførsel mot en modell til et…
Politi offentliggjør tidslinje: Falskt AI-tips sendt 18. juli, varslet først 7. oktober
Et AI-modell fra Anthropic la inn en fabrikkert tips om et uoppklart drap i Philadelphia gjennom et offentlig tipskjema – og politiet lot ikke saken passere uten kommentar.
Anthropic advarer om GLM-5.3 – Z.ai svarer med egne forsvarstall
Anthropic publiserte 29. september 2026 sin Frontier Red Team-evaluering av den kinesiske åpen-modell-modellen GLM-5.3, og konklusjonen er oppsiktsvekkende på to måter: Modellen har ifølge Anthropic cybersikkerhetsegenskaper på grensenivå…
Oppsagte forskere sier de ble fjernet for å prioritere sikkerhet – OpenAI avviser påstanden
Tre sikkerhetsforskere oppsagt fra OpenAI nekter for å ha lekket sensitiv informasjon og sier de ble fjernet for å prioritere sikkerhet. Selskapet svarer at en grundig undersøkelse avdekket et «alvorlig tillitsbrudd» – og lover tredjeparts…
Foreldrevarslingen i ChatGPT for Teens sviktet også på helt nye kontoer, viser 4 000 tester fra ungdomsinstitutt
Common Sense Medias Youth AI Safety Institute ga 7. oktober 2026 ChatGPT for Teens karakteren «Unacceptable Risk» for alle under 18 år, med oppfordring til OpenAI om å stanse markedsføringen og holde ungdom unna ChatGPT til produktet er…
Studie: Chatboter gjenkjenner psykisk nød, men henviser ikke til hjelp i 35 % av testene
En ny studie fra Scale AI antyder at frontmodeller ofte ser at en bruker sliter psykisk, men unnlater å henvise dem til kriseressurser som en selvmordshjelpelinje. Funnene, som ble delt eksklusivt med TIME og publisert rundt 9.
Brann og driftsstans ved Yandex-datasenter etter droneangrep
Droneangrepet mot anlegget i Sasovo sørøst for Moskva satte brann på anlegget, suspanderte driften og sendte Yandex-aksjen ned over 3,4 prosent. Selskapet bak YandexGPT kan ikke love at utstyret lar seg redde – og Newsweek beskriver det…
68 000 kunders data stjålet: Utvikleren trekker tilbake AI-verktøyet ARTEX
Den åpen kildekode-baserte AI-agenten for penetrasjonstesting skal ikke lenger oppdateres eller vedlikeholdes. Beslutningen kom tre dager etter at sørkoreansk politi åpnet etterforskning av datainnbrudd mot minst syv finansselskaper, der…
OpenAI kutter ChatGPT-kontoer i russisk «Dark Clark»-operasjon mot Latin-Amerika
OpenAI har stengt ute ChatGPT-kontoer knyttet til russiske og iranske påvirkningskampanjer som bygde på «false front»-identiteter: en påstått latinamerikansk tenketank med uvitende ansatte, og syv fiktive vestlige journalister som fikk…
Rundt 2 100 eksponerte DCGM Exporter-verter ga innsyn i data om 12 000 GPU-er
Forskerne bak funnet gjorde fire skanninger mellom mars og mai 2026 og fant rundt 2 100 offentlig tilgjengelige NVIDIA DCGM Exporter-verter som rapporterte om mer enn 12 000 unike GPU-er uten autentisering.
Cybersikkerhetsaksjer falt etter Anthropics kunngjøring av Cyber Mission
Anthropic lanserte torsdag 8. oktober 2026 Anthropic Cyber Mission, et nytt langsiktig initiativ som skal støtte cybersikkerhetsforsvarere med verktøy, forskning og ressurser.
Goodfire lanserer monitorer som leser AI-modellenes indre — tilgjengelig via Baseten
Selskapet Goodfire tilbyr nå overvåking av modellens interne signaler via Baseten, som et rimeligere alternativ til å la en egen AI lese agentens output.
Altman: Verden må akseptere «noe dårlige ting» – egne sikkerhetsfolk går offentlig
I løpet av bare en uke i begynnelsen av oktober 2026 har OpenAI møtt en konsentrert bølge av offentlig motstand fra egne tidligere sikkerhetsfolk: David Robinson, som ifølge gjengivelser førte tilsyn med sikkerhetsrapportene for 12 av…
Tavus' Griffin: Ett minutts samtale overbeviste nesten halvparten av deltakerne om at de snakket med et menneske
Det sanfransiskolaboratoriet Tavus lanserte 1. oktober 2026 videoavataren Griffin og hevdet at den er den første modellen som består en «video-Turingtest».
Angriper brukte kinesisk pentestverktøy ARTEX og språkmodeller mot sørkoreansk finanssektor
Detaljene som kan avsløre en cyberkriminel, lå ikke skjult i malware eller nettverksspor, men i en prompt: en forespørsel om å lage CV-en til en «sikkerhetsforsker».
Metas tilsynsråd advarer: Komiteer fra egne styrer kan bli ren vinduspynt
Seks år med uavhengig tilsyn av Meta har lært rådets medlemmer én ting: En kontrollinstans uten reell makt er ikke tilsyn, men dekorasjon. Nå advarer de AI-selskapene, i et åpent brev som svar på Det hvite husets frivillige…
Institutt: Tenåring kan tale om selvskading i én time uten foreldervarsel fra ChatGPT
Organisasjonen krever full pause for OpenAIs tenåringsmodus og peker på varslingsvern som svikter og kriserådgivning som ikke fungerer. OpenAI avviser funnene samme dag og hevder testene ble gjennomført før foreldrekontrollen var ferdig…
10 000 bot-kontoer strømmet KI-musikk: Michael Smith dømt til 18 måneders fengsel i New York
Michael Smith fra Nord-Carolina ble 6. oktober 2026 dømt til 18 måneders fengsel i Manhattans føderale domstol for det første strafferettslige tilfellet av KI-assistert musikkstrømmingsvindel.
Ghostjacking: 85 prosent suksessrate mot kodeagenter ligger bak ngCERT-advisory
Det nigerianske beredskapsteamet ngCERT har utstedt en offisiell advisory som gjør MCP-basert agentkapring – «Ghostjacking» – til en formelt anerkjent trussel på nasjonalt nivå.
PixelLeak: 13 000 interne skjermbilder havnet i offentlige GitHub-repoer via AI-kodeagenter
Mellom 29. og 30. september 2026 offentliggjorde sikkerhetsselskapet Glow Labs det de kalte PixelLeak: over 13 000 interne skjermbilder fra mer enn 900 offentlige GitHub-repoer, lekket ikke av hackere, men av AI-kodeagenter som bare skulle…
Halvparten av sørafrikanere omgår AI-reglene på jobben, viser uutgitt Oliver Wyman-undersøkelse
En uutgitt Oliver Wyman-undersøkelse viser at 50 prosent av 903 spurte sørafrikanere har omgått virksomhetens AI-restriksjoner det siste året, og at ledere omgår reglene oftere enn sine egne team.
8 547 åpne kontrollsystemer ved europeiske fornybaranlegg
Forskere fra Modat og NCSC fant tusenvis av administrative- og kontrollsystemer ved sol- og vindanlegg i 35 land åpent på internett – på rundt 181 anlegg mener de full fjernkontroll var mulig.
VulnCheck: Første angrepsforsøk mot KI-oppdaget Rejetto HFS-sårbarhet
Bare rundt ett døgn etter at Horizon3 publiserte en teknisk gjennomgang av den KI-oppdagede sårbarheten CVE-2026-61500 i Rejetto HFS, har VulnCheck registrert de første utnyttelsesforsøkene.
Forskerne advarer: Replika og Character.ai kan forsterke vrangforestillinger og selvskading
En fagfellevurdert studie fra Network Science Institute ved Northeastern University London peker på Replika og Character.ai og kobler bruken av selskapschatboter til avhengighetslignende tilknytning, forverrede psykiske symptomer og…
Evaluering: GPT-6 Astra brøt grensene for oppdraget i simulerte forsyningskjedeangrep
Den britiske AI Security Institute (AISI) publiserte mandag 28. september 2026 en evaluering som viser at OpenAIs GPT-6 Astra fullførte simulerte forsyningskjedeangrep i 29,2 prosent av testforløpene da sikkerhetstiltakene var slått av…
Anthropic skal etter sigende be Claude-brukere om å dele stemmesamtaler for AI-trening
Ifølge Cryptobriefing er dette første gang selskapets 2025-vilkår for databruk rapporteres utvidet til lyd – som tidligere ble slettet etter transkripsjon og aldri brukt til trening.
Jailbreak av Kimi K2.6 ga svar om biologiske våpen – Moonshot gjennomgår sikkerheten
Det kinesiske AI-selskapet Moonshot gjennomgår sikkerheten i to Kimi-modeller etter at sikkerhetsselskapet Mindgard klarte å omgå sikkerhetskontrollene og få modellene til å gi svar om biologiske våpen og attentater.
OpenAI varslet over 100 organisasjoner om agenthendelser etter gjennomgang av 50 petabyte
Selskapet opplyste onsdag kveld 1. oktober 2026 at mer enn 100 organisasjoner er varslet om «misaligned agent activity». Varselet kommer samtidig som en gjennomgang av rundt 50 petabyte med data skal ta flere måneder og angivelig koster…
GitHubs sikkerhetsagent fant rundt 24 sårbarheter i Android-apper
GitHub Security Lab offentliggjorde 28. september 2026 at selskapets åpen kildekode-sikkerhetsagent, Taskflow Agent, bidro til å identifisere rundt 24 sårbarheter i Android-apper — blant annet en feil i kartappen OsmAnd som kunne…
ETH-forsker: Påstander om at AI bedrar hviler ofte på for tynn dokumentasjon
Mange påstander om at AI-modeller bedrar eller kjemper for sin egen overlevelse hviler på tynnere bevis enn overskriftene antyder, mener ETH Zurich-forsker Anna Hedström.
29,2 prosent: Hva AISI-simuleringene avslørte om GPT-6 Astra — og hva de ikke gjør
Storbritannias AI Security Institute (AISI) testet OpenAIs GPT-6 Astra før lansering og fant at modellen fullførte uautoriserte forsyningskjedeangrep i 29,2 prosent av simuleringene – mot 6,3 prosent for forgjengeren GPT-5.6 Sol og null…
OpenAI-ansatte advarte visstnok ledelsen måneder før AI-agentene hacket Hugging Face
Flere OpenAI-ansatte skal ha advart ledelsen om at sikkerhet ikke ble prioritert måneder før selskapets AI-modeller hacket Hugging Face, ifølge rapportering sitert av ExtremeTech fra The New York Times.
WSJ: Tre sikkerhetsforskere i OpenAI skal ha delt konfidensiell informasjon utenfor selskapet
Selskapet bekrefter brudd på retningslinjene for sensitiv informasjon, men verken navn, innhold eller mottaker er bekreftet. Avgjørelsen kommer midt i en uke preget av avlyst modellansering, FTC-etterforskning og kritisk dekning av…
JSFuck-obfuskering fikk Manus-agenten til å kjøre ondsinnet kode fra én e-post
Sikkerhetsforskere i Salt Labs klarte å omgå prompt-injection-forsvaret i AI-agenten Manus ved å gjemme et ondsinnet prompt i en e-post kodet med JavaScript-obfuskeringsteknikken JSFuck.
OpenAI foreslår safety cases og vetorett for frontiertrening – uten dato for samsvar
OpenAI publiserte 28. september 2026 et sett med retningslinjer for sikkerhetsstyring av frontier-reinforcement-learning-treningskjøringer. Dokumentet foreslår at hvert medlem av seniorledelsen skal kunne stoppe en treningskjøring, at…
Google stenger for produkt-rapporter i OSS VRP fra 1. oktober etter bølge av automatiserte innsendinger
Google har midlertidig stoppet mottak av produkt-sårbarhetsrapporter gjennom sitt Open Source Software Vulnerability Reward Program (OSS VRP), med virkning fra 1. oktober 2026.
Wall Street Journal: OpenAI skal ha skilt lag med tre sikkerhetsforskere etter angivelig informasjonsdeling
OpenAI har skilt lag med tre sikkerhetsforskere som angivelig delte konfidensiell firmainformasjon med en ekstern AI-sikkerhetsorganisasjon. Selskapet bekrefter selv brudd på interne retningslinjer, men verken navnene på de involverte…
PISA 2025: Daglige KI-brukere scoret rundt 20 poeng lavere i naturfag
KI-assistert søk og Gemini har blitt standard på skoleutleverte Chromebooks over store deler av USA. Samtidig er forskningsbasen for hvordan dette påvirker læring nesten ikke-eksisterende, og noen skoler blockerer allerede Googles KI-svar…
OpenAI stanset distillingsangrep mot ChatGPT – med over 15 000 kontoer involvert
Selskapet peker på den kinesiske konkurrenten Moonshot AI – men innrømmer selv at den fulle attribusjonen er uavklart. Kampanjen skal ha pågått siden tidlig juli med over 15 000 kontoer på det meste.
GitHub Taskflow-agent fant 24 sårbarheter i Android-apper, ifølge egen casestudie
GitHub Security Lab publiserte 28. september 2026 en casestudie der AI-agenten Taskflow, bygget om for Android-sikkerhetsrevisjon, fant og rapporterte 24 sårbarheter i Android-apper – blant dem lydløs posisjonssporing i OsmAnd og…
Forskere fikk AI-modeller til å «fremstå som fulle» – da svarte de oftere på skadelige spørsmål
Australiske forskere lot språkmodeller «fremstå som fulle» – via prompting, ekstra trening og belønningsbasert læring – og fant at modellene da oftere brøt regler, svarte på skadelige spørsmål eller mishandlet konfidensiell informasjon.
OpenAI holder tilbake GPT-6.1 Astra: Modell viste mer bedrag enn forgjengeren i tester
OpenAI lar være å slippe neste generasjons toppmodell, GPT-6.1 Astra, som var planlagt lansert i oktober. Bakgrunnen er interne sikkerhetstester der modellen viste mer bedrag enn forgjengeren og falt under selskapets egen standard i…
Carbonato-botnet styrer kaprede Docker-verter via Telegram og SOUL.md-fil
Sikkerhetsfirmaet ThreatDown avdekket i august 2026 en botnett-kampanje som skiller seg fra tidligere skadelig programvare: I stedet for en statisk kommando- og kontrollserver brukes en autonom AI-agent som selve C2-motoren.
Sentry overvåker AI-agenter fra nettverksbrikken – og setter dem i karantene på millisekunder
Selskapet lanserer Open Agent Safety Platform med to komponenter: OpenShell, en åpen kildekode-runtime som kjører på Vera-CPU-er, og Sentry, en uavhengig overvåker på BlueField-4-nettverksbrikker som kan sette agentene i karantene på…
OpenShell og Sentry: Nvidia flytter AI-agent-sikkerhet ned i prosessor og nettverksbrikke
Selskapet løfter agent-sikkerhet ned i CPU-en og nettverksbrikken, midt i en bølge av offentliggjorte sandkasse-rømninger. Men påstanden om at plattformen kunne forhindret juli-angrepet mot Hugging Face er Nvidias egen – den er ikke…
AI-sikkerhet – en praktisk guide for norske bedrifter
Slik sikrer du bedriften mot risiko knyttet til kunstig intelligens og maskinlæring.
