Stubb og Støre lanserte internasjonalt opprop om kontroll med grensesprengende KI-modeller

Stubb og Støre lanserte internasjonalt opprop om kontroll med grensesprengende KI-modeller

FNs generalsekretær António Guterres har ønsket oppropet «A Call for Control of Frontier AI Models» velkommen, i tilknytning til FNs generalforsamlings 81. økt. Oppropet krever blant annet obligatorisk testing før utrulling, uavhengig evaluering og felles standarder – og har ifølge kilden støtte fra ledere og seniorfunksjonærer i 18 land, i tillegg til kommisjonspresident Ursula von der Leyen.

FNs generalsekretær António Guterres ønsket mandag lokal tid velkommen lanseringen av oppropet «A Call for Control of Frontier AI Models», ledet av Finlands president Alexander Stubb og Norges statsminister Jonas Gahr Støre, og oppfordret til større internasjonalt samarbeid om den raskt utviklende teknologien. Det opplyses i en rapport fra nyhetsbyrået ANI, som er den offentlig tilgjengelige kilden for både oppropets innhold, undertegnerlisten og Guterres' uttalelser (ANI via MSN). For norsk del er saken særskilt aktuell: Ifølge rapporten står Norge sammen med Finland i spissen for initiativet.

Hva oppropet sier

Ifølge ANIs gjengivelse slår oppropet fast at den raske utviklingen av grensesprengende KI-modeller medfører «alvorlige risikoer for sikkerhet og trygghet hvis de ikke håndteres på riktig måte». Kjerneposisjonen lyder, i oversettelse: «KI må forbli under menneskelig styring, tilsyn og kontroll. Den må utvikles og brukes i tråd med folkeretten» (ANI).

De konkrete kravene

Oppropet retter seg mot tre nivåer, ifølge ANIs referat.

Til selskapene: Utviklerne av de kraftigste modellene oppfordres til å etablere «transparente sikkerhetsprotokoller, inkludert obligatorisk testing før utrulling og uavhengig evaluering». Kvalifiserte evaluerere skal gis tilstrekkelig tilgang til å vurdere risikoene. Kravet om tilgang for eksterne evaluerere er blant de mer spesifikke elementene, og peker mot et praksisfelt der laboratoriene i stor grad selv bestemmer hvem som får teste modellene, og på hvilke vilkår.

Til myndigheter og regionale organisasjoner: Oppropet oppfordrer til å «videreutvikle og koordinere felles standarder, styrke transparens – inkludert delt rapportering av alvorlige sikkerhetshendelser – og sørge for at land i alle regioner har tilgang til vitenskapelig kapasitet, ekspertise og pålitelig evaluering».

Til FNs medlemsland: De oppfordres til å bygge videre på eksisterende internasjonale mekanismer og «utforske å etablere en internasjonal institusjon, i stand til å sette standarder, muliggjøre verifikasjon og sammenkalle stater når kapasitetsterskler krysses». Det siste – et samlingspunkt for når modeller når visse kapasitetsnivåer – peker mot en ordning som ikke finnes i dag, og som ville krevd en beslutningsprosess i FN-systemet.

Hvem som står bak

Ifølge ANI-rapporten er oppropet støttet av ledere og seniorfunksjonærer fra 18 land: Australia, Bahrain, Canada, Danmark, Estland, Tyskland, Island, Irland, Kasakhstan, Kenya, Latvia, Moldova, Nederland, Singapore, Spania, Sør-Afrika, Tyrkia og De forente arabiske emirater – i tillegg til presidenten for Europakommisjonen, Ursula von der Leyen. Kilden angir ikke hvilken tittel eller rolle hver enkelt undertegner har, utover at Stubb og Støre leder oppropet. Listen spenner geografisk vidt, fra Europa og Nord-Amerika til Golfen, Sentral-Asia og Afrika.

Guterres' støtte – og bredere inramming

Guterres kalte ifølge ANI oppropet velkomment med henvisning til behovet for større internasjonalt samarbeid om teknologien som utvikler seg raskt. «Verden har ikke råd til et kappløp mot bunnen når det gjelder KI-sikkerhet», sa han ifølge rapporten, og pekte på det uavhengige internasjonale vitenskapelige panelet for KI (Independent International Scientific Panel on AI) som en kilde til kunnskap om teknologiens muligheter og risikoer.

Han ønsket samtidig velkommen utgivelsen av panelets første tematiske notat, og oppfordret eksterne eksperter – «inkludert fra frontier-KI-laboratorier og sikkerhetsinstitutter» – til å engasjere seg i panelet. Det plasserer oppropet innenfor et større FN-byggverk der panelet skal fungere som faglig grunnlag for medlemslandenes styringsarbeid.

Hva som fortsatt er åpent

Det er verdt å være presis med hva kildematerialet faktisk dokumenterer. Alle detaljene om oppropet – ordlyden, undertegnerlisten og Guterres' uttalelser – kommer via én ANI-syndikert rapport, ikke fra oppropets primærtekst eller fra norske og finske myndigheters egne uttalelser. Den nøyaktige kalenderdatoen for lanseringen og eventuell møteplass er ikke angitt, utover at Guterres hilste tiltaket velkommen «mandag lokal tid» i tilknytning til generalforsamlingens 81. økt. Det fremgår heller ikke av kilden om oppropet medfører bindende forpliktelser for de tilsluttede landene, eller om det er en rent politisk erklæring – og det bør derfor ikke karakteriseres i noen retning før primærkilden foreligger.

Det gjenstår å se om oppropet følges opp med konkrete forhandlinger om den foreslåtte internasjonale institusjonen, eller om det forblir en prinsipperklæring. Hovedinntrykket er likevel konkret: Norge, med Støre i spissen, har ifølge rapporten tatt en synlig internasjonal lederrolle i spørsmålet om hvordan grensesprengende KI-modeller skal kontrolleres – og FNs generalsekretær har ønsket initiativet velkommen.