OVHcloud går fra skyleverandør til modellutvikler med åpen MoE-modell på 7 milliarder parametre
Skyverten OVHcloud har bygget sin egen språkmodell: Olala mini 7A1B er en sparsom ekspertblanding på 7 milliarder parametre som ifølge selskapet kjører 50 tokens per sekund på en vanlig CPU, er utgitt under Apache 2.0 med AI Act-dokumentasjon, og allerede brukes av søkemotoren Qwant. Den offisielle lanseringen skjer på OVHcloud AI Summit 19. november.
Nyheten: Fra skyleverandør til modellbygger
OVHcloud, selskapet som er mest kjent som europeisk alternativ til de store amerikanske skyselskapene, kunngjorde denne uken sin første modellfamilie for store språkmodeller. Familien har fått navnet Olala, og den første modellen ut av huset er Olala mini 7A1B (IT Pro).
Den offisielle lanseringen finner sted på OVHcloud AI Summit 19. november, der selskapet skal presentere alle sine sky- og AI-nyheter for kundene i detalj (MarketScreener). Kunngjøringen ble publisert 17. november, noen dager før toppmøtet. De to kildene gir ikke en fullstendig avklaring av forholdet mellom kunngjøringsdatoen og den offisielle lanseringen.
Ingen av de primære kundene er nevnt i den grad modellene er ment for dem, men poenget er tydelig: OVHcloud vil eie hele kjeden, fra maskinvare i egne datasentre til egne modeller — et svaregg på europeisk digital suverenitet.
Hva slags modell er dette?
Olala mini 7A1B er, som navnet antyder, en kompakt modell med 7 milliarder parametre totalt, hvorav bare 1 milliard er aktivert per token (MarketScreener). Dette er en såkalt sparsom «mixture-of-experts»-arkitektur (MoE), der modellen er delt inn i 256 eksperter per lag, og en router mekanisme velger hvilke eksperter som skal behandle hver enkelt token.
To tekniske valg skiller seg ut:
- 256 eksperter per lag er svært mange. Jo flere eksperter, desto mer spesialisert kan hver ekspert bli, og desto færre parametre trenger å aktiveres for hvert token. Dette er forklaringen på hvorfor modellen kan være «stor» (7B) og «rask» (1B aktiv) samtidig.
- Hybrid-oppmerksomhet med Differential-TPA og Mamba-3 (MarketScreener). Mamba er en «state space»-arkitektur som håndterer lange sekvenser mer effektivt enn tradisjonell transformer-oppmerksomhet, med lineær snarere enn kvadratisk beregningskostnad i sekvenslengden. Kombinasjonen antyder at OVHcloud prøver å få fordelene fra begge verdener.
Modellen er trent i BF16-format. De totale parametrene på 7B med 1B aktive betyr at modellen kan lagres på maskinvare som vanlige 7B-modeller, men kjører med beregningskostnaden til en 1B-modell — noe som er kjernen i selskapets påstand om CPU-ytelse.
Hvorfor CPU-ytelse er poenget
Ifølge OVHcloud kjører Olala mini 7A1B med 50 tokens per sekund på en vanlig CPU, og 160 tokens per sekund på et Nvidia RTX A4500-grafikkort (IT Pro). Selskapet legger også til at modellen har et kontekstvindu på 32 000 tokens, som neste versjon skal utvide til 128 000 innen utgangen av året.
Disse tallene er selskapets egne og ikke uavhengig verifisert. Men hvis de holder, har de en direkte økonomisk konsekvens: Inferens på CPU betyr at kunder kan kjøre modellen på eksisterende, billig maskinvare i stedet for å leie dyre GPU-ressurser. For europeiske virksomheter som vurderer selvhosting — et legitimt behov etter AI Act — senkes terskelen betydelig.
Trening på offentlige europeiske superdatamaskiner
Olala mini 7A1B er trent utelukkende på tre europeiske offentlige superdatamaskiner: Jupiter, MeluXina og Jean Zay, utstyrt med GH200-, A100- og H100-GPU-er (MarketScreener, IT Pro).
Dette er et bevisst strategisk valg. Europas knappe tilgang på toppmoderne GPU-er og enorme datasentre har lenge vært sett på som en strukturell svakhet. Å bygge en modell kun på offentlig europeisk infrastruktur er delvis et politisk signal, delvis et praktisk svar på spørsmålet «kunne dette gjort i Europa?». Svar: ja, med offentlige ressurser.
Lisensiering og samsvar med AI Act
Olala mini 7A1B distribueres under Apache 2.0-lisens via Hugging Face, med modellvekter, tekniske spesifikasjoner og dokumentasjon for samsvar med AI Act (IT Pro).
Den siste delen fortjener egen oppmerksomhet. AI Act trer i kraft gradvis, og dokumentasjonsbyrden for selskaper som bygger på AI-systemer er betydelig. At en modellleverandør inkluderer samsvarsdokumentasjon fra dag én er en differensiator for regulerte europeiske kjøpere som ellers må bygge denne dokumentasjonen selv.
Qwant som første kunde
Søkemotoren Qwant bruker allerede Olala mini 7A1B for sin «flash response»-funksjon. Ifølge rapporteringen har modellen gitt svar 20 % raskere enn modellen den erstattet, med driftskostnader redusert med en faktor tre (MarketScreener, IT Pro).
Disse tallene stammer fra selskapet/Qwant og er ikke uavhengig benchmark-testet. Men de gir en konkret brukshistorie: Modellen skal ikke bare overleve i laboratoriet, men allerede betale for seg i produksjon hos en europeisk teknologiselskap med reelle latenskrav.
Klabas argument om fallende treningskostnader
OVHcloud-gründer og administrerende direktør Octave Klaba forklarer satsingen med to argumenter (IT Pro):
«Vi kan ikke rett og slett stole på generøsiteten til visse laboratorier for at de deler sine LLM-er som åpen kildekode i årene som kommer.»
og videre:
«Kompetansen innen modelltrenting har blitt allment tilgjengelig, og kostnaden for trening har blitt delt på 20 på tre år. Det er nå mulig å lage LLM-er mens man gjør denne aktiviteten lønnsom.»
Påstanden om at treningskostnader er redusert 20 ganger på tre år er selskapets egen og presenteres uten metodologi i kildene. Den er konsistent med bredere observasjoner om fallende kostnader for trening av kompakte modeller, men tallet bør leses som et strategisk argument, ikke en verifisert måling.
Veikart og åpne spørsmål
Versjon 1.1 forventes innen utgangen av året og skal utvide kontekstvinduet til 128 000 tokens. Versjon 2.0 skal ifølge veikartet utvikle spesialiserte modeller for agentisk AI for bedrifter, sky-DevOps og cybersikkerhet (MarketScreener).
Flere spørsmål forblir åpne:
- Ingen uavhengige benchmarks. De eneste ytelsestallene som foreligger kommer fra OVHcloud selv. Frem til tredjepart har målt modellen på standard evalueringer, er påstanden om at den er produksjonsklar på CPU berettiget tro, ikke dokumentert fakta.
- Hva slags trening? Kildene angir ikke treningsdata, datasettstørrelse eller antall treningstokens. Det gjør det vanskelig å vurdere modellens faktiske kapasitet.
- Spørsmålet om suverenitet. Selv om treningen skjedde på europeisk maskinvare, er ikke modellens egenskaper «europeiske» i seg selv. Verdien av suverenitetsargumentet avhenger av hva slags avhengighet man faktisk reduserer.
Hva det betyr
For europeiske virksomheter som trenger en liten, åpen språkmodell med dokumentert AI Act-samsvar og mulighet for CPU-inferens, er Olala mini 7A1B et konkret nytt alternativ. Om det er et bra alternativ avhenger av ytelsestall ingen uavhengig part har verifisert ennå. Men teknisk design — 7B parametre med 1B aktive, hybrid Mamba-arkitektur, trent på offentlig europeisk maskinvare, utgitt åpent med samsvarsdokumentasjon — viser at veien fra skyleverandør til modellbygger er kortere enn mange har antatt.

