Metas tilsynsråd advarer: Komiteer fra egne styrer kan bli ren vinduspynt
Seks år med uavhengig tilsyn av Meta har lært rådets medlemmer én ting: En kontrollinstans uten reell makt er ikke tilsyn, men dekorasjon. Nå advarer de AI-selskapene, i et åpent brev som svar på Det hvite husets frivillige superintelligens-avtale, mot å designe sine sikkerhetskomiteer med de samme konstruksjonsfeilene rådet selv har erfart.
Medlemmer av Metas Oversight Board har gitt AI-selskapene et råd: Gi sikkerhetskomiteene ekte makt, ellers betyr de lite. I intervjuer sier medlemmene at de uavhengige sikkerhetskomiteene som AI-selskaper som Google, Anthropic, OpenAI, Meta, xAI og Nvidia lovet å opprette forrige uke, kan ende opp som lite mer enn vinduspynt — med mindre de får et tydelig mandat, reell uavhengighet og muligheten til å motsette seg ledelsen. Advarselen kommer i form av et åpent brev, sendt som svar på Det hvite husets frivillige Accord on Super Intelligence, og bygger på rådets egne erfaringer fra seks år med å dømme i Metas innholdsmoderering (MSN).
Et frivillig accord uten bindinger
Rammeverket som utløste brevet, er altså Det hvite husets Accord on Super Intelligence. Ifølge rapporteringen binder avtalen ingen av de seks selskapene — OpenAI, Anthropic, Google, Meta, Nvidia og xAI — til noen bestemt handling. Og det er en detalj som veier tungt i rådets advarsel: Accorden presiserer at de tenkte uavhengige komiteene som skal føre tilsyn med selskapenes sikkerhetsarbeid, skal bestå av medlemmer fra selskapenes egne styrer.
Det står i skarp kontrast til hvordan Oversight Board selv ble konstruert. Rådet inkluderer ingen medlemmer av Metas styre, men er besatt av uavhengige eksperter — blant dem journalister, forskere i menneskerettighetsrett, en vinner av Nobels fredspris og en tidligere dansk statsminister. Og selv om Meta har finansiert rådet med over 300 millioner dollar siden 2019, er midlene holdt i en uavhengig stiftelse («trust»), adskilt fra selskapets egen kasse.
Rådets oppskrift: seks anbefalinger
I det åpne brevet presenterer Oversight Board seks anbefalinger for hvordan uavhengige organer bør utøve kontroll over AI-selskaper. Ifølge rapporteringen handler de om å etablere et konkret mandat, sikre strukturell stabilitet og uavhengighet, involvere tverrfaglig ekspertise og legge vekt på åpenhet.
Brevet argumenterer også for en bredere styringsmodell: «Med et verktøy som har like mye potensial og like mye risiko som AI, trenger vi en lagdelt tilnærming til styring som omfatter selskapenes egne retningslinjer, bransjevedtatte standarder, uavhengig tilsyn med disse standardene fra en rekke perspektiver, samt både regulering og internasjonal koordinering», skriver gruppen ifølge rapporteringen.
Medlemmenes konkrete råd peker mot de samme prinsippene. Paolo Carozza, rådsmedlem og professor i juss og statsvitenskap ved University of Notre Dame, peker på friksjon som selve prøvestenen: «Skal det være ekte tilsyn, vil det være friksjon mellom selskapet og organet», sier han om rådets anbefalinger for AI-selskapenes tilsynsordninger.
Nighat Dad, rådsmedlem og daglig leder i Pakistan-fokuserte Digital Rights Foundation, understreker to krav: Komiteene må ha reell tilgang til ikke-offentlig informasjon, og de må være finansielt uavhengige.
Julie Owono, også hun rådsmedlem, peker på åpenhet som forutsetning for offentlig tillit: «Åpenhet er avgjørende», sier hun.
Hvorfor akkurat nå
Tidspunktet er ikke tilfeldig. Rådet taler ut før AI-selskapene har festet formen på sine tilsynsordninger. Carozza innrømmer at rådet selv kunne vært mer effektivt om det hadde blitt konstruert annerledes — og at nettopp denne etterklokskapen er det som har drevet det til å dele erfaringene nå, før selskapene sementerer sine egne planer.
Erfaringsgrunnlaget er reelt, om enn begrenset. Rådet har i seks år dømt i selskapets innholdsmodereringsbeslutninger. Selv denne ordningen har hatt svakheter: Meta kontrollerte deler av prosessen med å velge rådets medlemmer helt til 2023 — en påminnelse om at selv velmente tilsynsorganer kan ha konstruksjonsfeil innbakt fra starten.
Prøvestenen komiteene møtes av
Advarselen kan vendes mot enhver kommende sikkerhetskomite. Tar man rådets kriterier bokstavelig, er spørsmålene konkrete: Har komiteen et konkret mandat, eller bare en hensiktserklæring? Sitter selskapets egne styremedlemmer i den, slik Accorden legger opp til, eller er den besatt av uavhengige eksterne eksperter, slik Oversight Board valgte? Har den finansiell uavhengighet av selskapet den skal kontrollere — det andre av Dads to krav? Får den tilgang til ikke-offentlig informasjon — det første? Og åpner den seg for offentlig innsyn, slik Owono insisterer på?
Rådets egen historie illustrerer hvorfor spørsmålene betyr noe. Finansieringen i en uavhengig trust kan tolkes som et vern mot at Meta trekker støtten som straff for upopulære avgjørelser. Ekskluderingen av Meta-styremedlemmer hindrer at selskapet sitter i rommet som dømmer det selv. Kontrasten til Accorden — der komiteene tegnes fra selskapenes egne styrer og avtalen ikke binder noen til handling — er det underliggende poenget i hele brevet.
Et skeptisk motargument
Advarselen kommer ikke uten motbør. Evelyn Douek, jusprofessor ved Stanford, mener man skal være forsiktig med å løfte frem Oversight Board som mønster. «Jeg tror Oversight Board heller bør være en advarende historie enn en slags lovende modell for hvordan uavhengig tilsyn bør se ut i slike situasjoner», sier Douek. Argumentet hennes peker på rådets begrensede rekkevidde: Det dømmer bare over et utvalg av Metas beslutninger, ikke over selskapets virksomhet som helhet.
Carozza ser ut til å delvis akseptere poenget. At rådet kunne vært konstruert bedre, er del av budskapet — erfaringen er verdifull nettopp fordi den inkluderer feilene.
Det vi ikke vet
Flere ting gjenstår uavklart. Selskapene har i denne rapporteringen ikke kommet med egne uttalelser om hvordan de tenker seg de lovede komiteene, så deres side av saken er foreløpig udokumentert. De nøyaktige vilkårene i Accord on Super Intelligence og ordlyden i rådets åpne brev er kjent gjennom sekundær rapportering, ikke gjennom dokumentene selv. Og når ordningene presenteres, vil det avgjørende spørsmålet være hvor mange av rådets kriterier de oppfyller på papiret — og om friksjonen Carozza beskriver faktisk oppstår i praksis.