Google flytter 90 KI-ansvarlige ut av DeepMind – inn i lobbyavdelingen

Enheten består av rundt 90 personer. Fra nå av rapporterer den ikke lenger til laboratoriet som bygger Googles mest avanserte KI-modeller, men til en organisasjon hvis daglige jobb er lobbyvirksomhet og offentlig politikk. Ifølge Yahoo Finance flyttes Googles ansvarlighetsteam for kunstig intelligens ut av DeepMind og inn i selskapets global affairs-organisasjon.

Forskerne i enheten er ikke bekymringsløse. De har ifølge rapporteringene advart om to konkrete konsekvenser: at deres uavhengighet svekkes, og at de får mindre mulighet til å oppdage trusler fra de nyeste modellene – altså nettopp de systemene overvåkingen egentlig finnes for.

Hvor plasseringen i organisasjonen er selve argumentet

Et ansvarlighetsteam er ikke bare en liste med navn. Hvor teamet sitter, bestemmer hvem det svarer til, hvilken tilgang det har til de fremste modellene, og om advarslene ankommer som forskningsfunn eller som politisk melding. Et team inne i laboratoriet står nær dataene, sjekkpunktene og folkene som trener modellene. Et team i global affairs står nær beslutningstakerne som bestemmer hva selskapet sier offentlig – og til hvem.

DeepMind har historisk hatt begge deler på én gang: nærheten til produktene og ansvaret for å vurdere dem. Det er en posisjon som kan gjøre teamet effektivt, men også ubehagelig for laboratoriet. Nå er den dobbeltrollen oppløst. Det som gjenstår, er tilsyn som rapporterer til budbringerne – ikke til bakerne.

Flyttingen er ikke et isolert trekk

Endringen skjer ikke i et vakuum. Demis Hassabis, som har ledet DeepMind siden Google kjøpte laboratoriet i 2014, går til side som sjef og over i en ny rolle i Google. Omorganiseringen er bredere enn ett enkelt vedtak, ifølge personer som kjenner til endringene, som MSN gjengir det.

Samtidig kommer Barret Zoph tilbake til DeepMind som visepresident for forskning. Zoph var med på å grunnlegge Thinking Machines Lab, et selskap verdsatt til 12 milliarder dollar, og hadde et kort opphold i OpenAI før det. En hjemkomst av denne kaliberen signaliserer at Google satser på forskningsledelse med merittliste fra fronten.

Og så er det AlphaFold. DeepMind har oppløst teamet bak det prisbelønte proteinsystemet. Rapporteringen fra Scientific American er at dette ikke utløste alarm blant forskere utenfor selskapet: Systemet løste i stor grad oppgaven det ble bygget for, og arbeidet videreføres i andre former. AlphaFold-oppløsningen er derfor et nyttig motstykke – et bevis på at DeepMind faktisk nedbryter team også når ingenting er galt.

Tatt én og én er disse trekkene forsvarelige. Tatt sammen tegner de et laboratorium i omveltning, der ansvarlighet flyttes ut, forskningsledelsen skiftes ut, og et ikonisk team avvikles. Det er aggregatet, ikke enkeltvedtakene, som gjør historien verdt å følge.

Kapasitetssiden av tallarket

Mens organisasjonen flyttes, fortsetter modellene å levere. Analyse fra DeepMind selv tyder på at KI-drevne orkanvarsler gir nøyaktige prognoser en dag eller mer tidligere enn konvensjonelle metoder, ifølge New York Times' dekning av forskergruppens funn. Selskapets modellportefølje – fra Gemini og Veo til Genie 3 og Gemini Robotics – viser et laboratorium som bygger systemer stadig lenger ut i verden.

Det er nettopp denne kombinasjonen som gir flyttingen vekt. Jo raskere modellene utvikler seg, desto mer avhengig er tilsynet av å være først på ballen når noe går galt. En enhet som mister sitt første blikk på de nyeste sjekkpunktene, oppdager trusler senere. Og trusler som oppdages sent, oppdages ofte av andre enn de som kan gjøre noe med dem.

Forbrukerne av KI merker ingenting av dette i dag. Men for arbeidsflyten internt i Google er forskjellen konkret: En forsker som finner noe urovekkende i en fremvoksende modell, må nå eskalere det gjennom en organisasjon hvis suksessmål er selskapets forhold til myndigheter og offentlighet – ikke modellenes oppførsel.

Googles sak – og det vi ikke vet

Det finnes et reelt argument for flyttingen. Ansvarlighet er ikke lenger bare et forskningsspørsmål; det er også et styringsspørsmål. Et team plassert hos global affairs får organisatorisk varighet, politisk tyngde og en direkte linje til beslutningene som faktisk former selskapets KI-praksis utad. Forbes har satt ord på spenningen mellom utviklingstempoet og verdiene: Kappløpet om neste generasjon KI akselererer, men tempoet kan ikke løpe fra ansvar. Og oppløsningen av AlphaFold-teamet viser at DeepMind avvikler enheter uten at det nødvendigvis betyr nød.

Likevel gjenstår det vesentlige usikkert. Advarslene fra forskerne er rapportert gjennom kilder som taler anonymt, ikke gjennom offentlige uttalelser. Ingen vet ennå om flyttingen faktisk reduserer teamets tilgang til de fremste modellene, eller om Google kompenserer for det med formelle rutiner. Og ingen vet om andre laboratorier vil kopiere modellen med sikkerhetsteam plassert ved siden av politikkfunksjonen – det ville være en presedens, men den er ikke dokumentert ennå.

Prøven som kommer

Den reelle testen er enkel å formulere. Når ansvarlighetsteamet neste gang oppdager noe bekymringsfullt i en av Googles egne modeller – vil advarselen ankomme som intern forskningsrapport med krav om endringer i treningen? Eller som språk i en politisk sammenheng, formulert av folk hvis jobb er å styre reaksjonen, ikke å forhindre skaden?

Det største som står på spill, er ikke organisasjonsskjemaet. Det er tidspunktet trusler blir oppdaget, og hvem som hører om dem først. Hvis de som står nærmest fronten av modellutviklingen, ikke lenger er de som evaluerer den, har Google flyttet tilsynet fra bakeriet til budet – og venter på at noen skal spørre hvor brødet blir kontrollert.