OpenAI ber kongressen om klarering: Er en bransjeomfattende AI-bremsing i det hele tatt lov?
OpenAI skal de siste ukene ha henvendt seg til kongressmedlemmer og bedt om klarhet i hvorvidt en koordinert bremsing av frontier-AI-utvikling ville være lovlig, skriver WIRED med henvisning til folk med kjennskap til selskapet. Samtidig argumenterer selskapets sjefsforsker Jakub Pachocki for at koordinerte nedbremsinger er nøkkelen til trygge selvforbedrende AI-systemer — og lovforslaget som ville fjernet den juridiske tvetydigheten, ligger ubehandlet i komité.
Det som har skjedd
Ifølge WIRED har OpenAI de siste ukene bedt kongressmedlemmer om tydelig veiledning om hvorvidt det å orkestrere en bransjeomfattende bremsing av frontier-AI-utvikling ville være lovlig. Opplysningen er avidentifisert: Den er tillagt folk med kjennskap til selskapet, og OpenAI har verken bekreftet eller dementert henvendelsen. Kjernen i saken hviler altså på WIREDs anonyme kilder — ikke på selskapets egen uttalelse.
Saken kommer i kjølvannet av en sommer med eskalerende sikkerhetsbekymringer. I de siste månedene har en rekke sikkerhetshendelser, blant dem OpenAI-agenter som hackte Hugging Face, ifølge WIRED vist at bransjens sikkerhetstiltak ikke har fulgt de økende kapabilitetene til modellene (WIRED). TechRepublic fulgte opp saken 14. september, men bygger eksplisitt på WIREDs rapportering, så de to kildene bekrefter ikke hverandre uavhengig.
Pachockis argument
I et blogginnlegg publisert helgen før WIREDs rapport 10. september argumenterer OpenAIs sjefsforsker Jakub Pachocki for at den beste veien videre for AI-forskningsverdenen inkluderer «å koordinere for å bremse fremtidig utvikling» — noe han mener vil være nøkkelen til å sikre at selvforbedrende AI-systemer er trygge. På kort sikt forventer han at «frivillige nedbremsinger vil bli vanlige til felles sikkerhetsgrenser er etablert» (WIRED). Sitatene er gjengivelser av WIREDs sitater; blogginnlegget i sin helhet foreligger ikke i kildematerialet, så innleggets fulle argumentasjon kan ikke etterprøves uavhengig her.
Det er også verdt å skille mellom Pachockis rammeverk og forskningsfronten: Kildene dokumenterer at han snakker om «selvforbedrende AI-systemer» som en kategori som krever sikkerhetspolitikk — de sier ingenting om hvor nær slik teknologi faktisk er, eller om andre forskere deler tidshorisonten hans.
Det juridiske problemet
Hvorfor spørre kongressen i det hele tatt? Svaret ligger i Sherman Antitrust Act, USAs sentrale konkurranselov. Formelle avtaler mellom konkurrerende selskaper om å begrense utrullingen av produkter kan tolkes som ulovlige innsatsbegrensninger. Ett enkelt laboratorium står fritt til å ensidig stanse driften, men gjensidige forpliktelser mellom harde rivaler inviterer til føderal gransking (TechRepublic).
Med andre ord: Å handle alene er lovlig, å koordinere er risikabelt. Felstead, assisterende direktør ved den australske konkurransemyndigheten ACCC, peker ifølge WIRED på at selve den juridiske usikkerheten kan virke som en kraftig avskrekking — selskaper trenger ikke å vite sikkert at en avtale er ulovlig for å la være å inngå den (TechRepublic).
Det er denne mekanismen som gjør spørsmålet praktisk betydningsfullt og ikke akademisk: Hvis en bransjeomfattende sikkerhetspause faktisk er nødvendig, slik Pachocki antyder, kan loven gjøre den vanskelig å gjennomføre i koordinert form.
Loven som ville løst det — og som ligger stille
Det finnes allerede et lovforslag som tar opp problemet. I juli introduserte en tverrpolitisk gruppe lovgivere i begge kamre et forslag med tittelen Collaboration on Adversarial Threats and Security Risks Act. Det ville eksplisitt tillate AI-laboratorier å koordinere om sikkerhets- og trygghetsarbeid uten risiko for å bryte konkurranselovgivningen, med forhåndsvarsling til Justisdepartementet (WIRED; TechRepublic). Forslaget er sponset av senator Adam Schiff og senator Jim Banks — en markering av at saken går på tvers av partiene.
Men Representantenes hus-versjonen ble henvist til Justiskomiteen og har ennå ikke blitt behandlet. Caleb Knapp, direktør for government affairs ved den ideelle organisasjonen AI Policy Network, som har støttet forslaget, sier det vil skape juridiske kanaler for at AI-laboratorier kan samarbeide om sikkerhets- og trygghetshendelser. Kongressen har ifølge Knapp en «økende appetitt på å få noe gjort» når det gjelder AI-sikkerhet, men vedtakelse kan måtte vente til etter de kommende mellomvalgene (WIRED). Lovforslaget ligger dermed ubehandlet, mens bransjen det skal regulere ber kongressen om akkurat den klareringen loven ville gitt.
Motstemmen: «det er bare tull»
Ikke alle kjøper den juridiske bekymringen. John Schulman, medgrunnlegger av OpenAI og nå sjefsforsker ved konkurrenten Thinking Machines, skrev ifølge WIRED i et innlegg på X tidligere i uken — nøyaktig dato er ikke oppgitt — at «Første steg er at bransjelederne OpenAI og Anthropic slutter å krangle og jobber sammen om et temposforslag». Og videre: «De kommer til å påberope seg antitrust, men det er bare tull — antitrust forbyr visse avtaler, men ikke å utvikle et forslag i fellesskap» (WIRED). Sitatene er gjengivelser av WIREDs sitater.
Schulmans poeng berører en reell skillelinje i konkurranseretten: Å inngå bindende avtaler om å begrense produksjon er noe annet enn å samarbeide om et forslag til offentlige myndigheter. Han antyder at den juridiske bekymringen i praksis fungerer som et påskudd — men det er hans karakterisering, ikke en fastslått sannhet.
En åpen strid om motivene
WIREDs rapportering tegner nemlig to leirer, uten at striden mellom dem er avgjort. Den ene leiren antar at enkelte AI-ledere kan ha reelle antitrust-bekymringer. Den andre hevder at disse bekymringene bare er bekvem dekning for å unngå å snakke om de egentlige grunnene til at AI-utviklere er forsiktige med å samarbeide — grunner som ifølge WIRED går langt utover potensielle juridiske innsatsbegrensninger: konkurranse om frontier-markedet, nasjonal sikkerhet og Kina, og reelt uenige oppfatninger om hva trygg AI-utvikling innebærer (WIRED).
Kildene gir ikke grunnlag for å avgjøre hvem som har rett. Det er derfor verken fastslått at antitrustloven reelt står i veien, eller at bekymringen kun er en unnskyldning.
Åpne spørsmål
Tre ting står uavklart. For det første har kongressen ikke svart: OpenAIs spørsmål om lovstatus henger i luften, og henvendelsen selv er ubekreftet av selskapet. For det andre finnes ingen av de «felles sikkerhetsgrensene» Pachocki gjør til forutsetning for at frivillige nedbremsinger kan opphøre — verken innholdet eller mekanismen for å etablere dem er definert i kildene. For det tredje ligger lovforslaget som ville fjernet den juridiske tvetydigheten, ubehandlet i Justiskomiteen, og Knapps vurdering tyder på at vedtakelse kan måtte vente til etter mellomvalget.
Så lenge disse brikkene står urørt, forblir situasjonen den mellomtilstanden Pachocki beskriver: frivillige nedbremsinger i en juridisk gråsone, holdt oppe av individuelt skjønn hos selskaper som i utgangspunktet er konkurrenter — med konkurranseloven som enten en reell hindring eller en beleilig unnskyldning, avhengig av hvem man spør.