LeCun legger frem tall som støtter AMI Labs-veddemålet – men målingene er forskernes egne

LeCun legger frem tall som støtter AMI Labs-veddemålet – men målingene er forskernes egne

En ny artikkel av Yann LeCun og Randall Balestriero hevder at en tekstmodell på bare 109 millioner parametre gir representasjoner som samsvarer bedre med bildeinbedinger enn langt større LLM-er. Men resultatet hviler på forfatternes egen målemetode, og ingen uavhengig gruppe har gjentatt sammenligningen – samtidig som én av forfatterne nettopp har grunnlagt et selskap bygget på nøyaktig denne arkitekturen.

Hva som er nytt

Den 29. oktober ble artikkelen «Proving and Improving the Platonic Representation Hypothesis with JEPAs» lagt ut på arXiv som 2610.39302. Den er skrevet av Randall Balestriero, assisterende professor ved Brown, og Yann LeCun, og den fremmer en påstand som er konkret nok til å sjekkes: En tekstmodell med 109 millioner parametre, trent som en joint-embedding predictive architecture (JEPA), produserer representasjoner som stemmer bedre overens med bildeinbeddingene til DINOv2 og CLIP enn noen språkmodell forfatterne testet – inkludert Qwen2.5-72B, en modell med 72 milliarder parametre.

Tallet som bærer påstanden: Målt mot Metas DINOv2 ViT-B scoret den lille modellen 0,184 på forfatternes overensstemmelsesmåling, mot 0,154 for Qwen2.5-72B. Alle tall i denne saken stammer fra artikkelen slik den er gjengitt av Startup Fortune (32aa9055); denne dekningen bygger på sekundærrapportering, ikke på artikkelen selv.

Hvorfor det betyr noe – og for hvem

Timingen er mer enn tilfeldig interessant. LeCun forlot Meta etter tolv år som sjefsforsker for AI for å grunnlegge AMI Labs, et Paris-basert selskap bygget rundt verdensmodeller og V-JEPA-arkitekturen snarere enn store språkmodeller, ifølge Reuters og andre medier som dekket utflyttingen, gjengitt av Startup Fortune. Selskapet skal ha samlet inn over én milliard dollar før et produkt foreligger, med Alexandre LeBrun som administrerende direktør og LeCun som administrerende styreleder.

En ny akademisk artikkel som argumenterer for at JEPA-arkitekturer konvergerer mot felles representasjoner på tvers av modaliteter – og at dette skjer mer dataeffektivt enn neste-token-prediksjon – er dermed direkte teknisk støtte for et tungt finansiert industrielt veddemål fra samme forfatter. Det gjør resultatet mer betydningsfullt, og det gjør det også nødvendig å lese det med ekstra tilbakeholdenhet. Det pekes her kun på sammenfallende interesser, ikke på noe regelbrudd fra noen av partene.

Argumentet: gode og dårlige utsnitt

Artikkelen forankrer påstanden i det som kalles den platoniske representasjonshypotesen – ideen om at gode modeller, uavhengig av modalitet, konvergerer mot lignende representasjoner av samme underliggende virkelighet. Balestriero og LeCun argumenterer, gjengitt gjennom Startup Fortune, for at konvergens i svært liten grad handler om skala, og nesten alt om hva modellen vises under trening.

Nøkkelen er skillet mellom «gode» og «dårlige» utsnitt. Neste-token-prediksjon, mekanismen bak alle vanlige store språkmodeller, kvalifiserer ikke: Å forutsi neste ord fra ordene før er, ifølge artikkelen, en JEPA trent på dårlige utsnitt – to skiver av samme dokument, ikke to observasjoner av samme virkelighet.

Fra dette skillet utleder forfatterne to ting. For det første en teoretisk konklusjon: Trening på gode utsnitt konvergerer, ifølge artikkelen, beviselig mot felles representasjoner på tvers av modaliteter. For det andre et empirisk tall: Gode utsnitt skal kreve 42 ganger færre treningsseksempler enn neste-token-prediksjon for å nå tilsvarende tverrmodal overensstemmelse. Begge deler presenteres her som forfatternes påstander – ikke som etablerte fakta.

Forbeholdene er store

Det er verdt å si rett frem, slik selve rapporteringen også gjør: Én artikkel er ikke en dom. Tre forhold begrenser hva man kan konkludere.

For det første hviler det empiriske grunnlaget på forfatternes egne valg av overensstemmelsesmåling og deres eget benchmark-oppsett. Et annet mål eller en annen modellrekke kunne gitt et annet bilde.

For det andre finnes ingen uavhengig replikasjon ennå. Ingen gruppe utenfor forfatterne har gjentatt sammenligningen mellom 109M-modellen og 72B-modellene.

For det tredje er artikkelens detaljer, inkludert bevisskissen om gode utsnitt og de rapporterte tallene, kjent her kun gjennom sekundærrapportering fra Startup Fortune. Dette er ikke et argument mot resultatet, men det setter grensen for hva som er kjent per nå.

Det betyr også at det ville være feil å lese artikkelen som et dom over skala. Forskjellen mellom 0,184 og 0,154 på én forfatterdefinert måling, uten replikasjon, er en hypotese som er verdt å teste – ikke et bevis for at 72 milliarder parametre er overflødige.

Hva man bør se etter

To ting vil avgjøre om resultatet holder. Den første er uavhengig replikasjon: Om andre laboratorier gjentar overensstemmelsessammenligningen med egne målemetoder og egne modellpar, og får samme forskjell mellom små JEPA-modeller og store LLM-er. Den andre er om påstanden om 42 gangers dataeffektivitet overlever utenfor forfatternes oppsett – den er i så fall den mest handlingsrelevante delen av artikkelen, siden den i tilfelle angir hvor dyrt det egentlig er å trene modeller som lærer felles representasjoner.

Inntil da er det ærlige sammendraget dette: To profilerte forskere, hvorav én nå leder et selskap bygget på nøyaktig denne arkitekturen, har lagt frem et teoretisk argument og et upåvist tall som begge peker samme vei. Spørsmålet de neste månedene er om noen andre kan finne veien dit uavhengig.

Kilder: Startup Fortune (32aa9055).