Medgrunnlegger i Fireworks AI: Åpne modeller ligger bare tre til seks måneder bak frontmodellene

Da Fireworks AI-medgrunnlegger Chenyu Zhao tok scenen på Slush-konferansen i Helsingfors, argumenterte han for at open-source-modeller er gode nok til at de fleste bedrifter kan droppe de dyre frontmodellene fra Anthropic og OpenAI.

Illustrasjon: To nesten identiske hvite skulpturelle blokker på et betonggulv, der den ene ligger litt bak den andre med en tynn rød markert avstand mellom seg – et bilde på den lille tidsforskjellen mellom åpne modeller og frontmodeller.
Illustrasjon

Medgrunnlegger i Fireworks AI: Åpne modeller ligger bare tre til seks måneder bak frontmodellene

Da Fireworks AI-medgrunnlegger Chenyu Zhao tok scenen på Slush-konferansen i Helsingfors, argumenterte han for at open-source-modeller er gode nok til at de fleste bedrifter kan droppe de dyre frontmodellene fra Anthropic og OpenAI. Samme dag fullførte Anthropic historiens største børsnotering, og Fireworks arbeidet fortsatt med to sikkerhetshendelser i høst som eksponerte data hos kundene Uber og Notion. Det gjør selskapet til et konsentrert bilde på de to motsatte pressene i bedrifts-AI akkurat nå: kostnadspress som trekker mot åpne modeller, og driftsrisiko som trekker mot de etablerte laboratoriene.

Hva Zhao argumenterte for

Fireworks AI driver KI-modeller for andre bedrifter. Selskapet spesialiserer seg på åpne modeller – modeller med åpne vekter som hvem som helst kan laste ned – og hjelper kundene med å finjustere dem på egne data, slik at de går raskere og billigere enn modellene til Anthropic, OpenAI og andre tungvektere, og samtidig blir vanskeligere for konkurrenter å kopiere. Blant kundene har vært Uber, Shopify og Notion.

Zhaos kjernetall er tidsavstanden mellom åpne og frontmodeller: «I dag er den på maks seks måneder, trolig nærmere tre», sa han på scenen, ifølge TechCrunch via MSN. Dette er et selskapsestimat, ikke et uavhengig verifisert resultat – Fireworks har en kommersiell interesse av at gapet fremstår som lite.

Zhao trakk også en konkret terskel: Bedrifter som bruker mellom 10 000 og 100 000 dollar i måneden på tokens, burde vurdere open source. Igjen er dette selskapets egen anbefaling, ikke en analytikerbenchmark.

To-modell-tesen: kostnad per oppgave, ikke per token

Zhao spådde at markedet vil bestå av to typer modeller i parallell. Ifølge TechCrunch argumenterte han for at vi kommer til å leve i en to-modell-verden, med frontmodeller og åpne modeller side om side: Man vil ha den beste intelligensen for avansert planlegging, men trenger ikke en frontmodell for enkel aritmetikk. Derfor er det så mye interesse for ruting, og derfor tenker folk nå på kostnad per oppgave, ikke bare kostnad per token.

Logikken er enkel: Hvis mesteparten av en bedrifts KI-oppgaver er rutinearbeid, og bare en liten andel krever toppintelligens, kan ruting mellom modelltypene kutte tokenregningen vesentlig. Det er også her Fireworks' forretningsmodell passer inn – selskapet leverer infrastrukturen som gjør finjusterte åpne modeller raske nok til å konkurrere i de rutinebaserte oppgavene.

Kontervekten: to sikkerhetshendelser i høst

Samme selskap har ifølge egne opplysninger, gjengitt av TechCrunch, hatt to sikkerhetshendelser i høst:

  • I én hendelse nådde hackere API-nøkler og tokens lagret som hemmeligheter for et begrenset antall kontoer.
  • I den andre brøt angripere seg inn i selskapets skytjenesteleverandør, tok seg inn i et utviklingssystem og fikk tak i kundedata, inkludert faktureringsopplysninger og noen datasett.

Konsekvensene for kundene er dokumenterte. Uber sier at navn, adresser, fødselsdatoer og førerkortnumre for rundt 150 000 sjåfører ble stjålet via en leverandør som TechCrunch identifiserte som Fireworks. Notion sier at KI-chattranskripter fra færre enn 1 prosent av arbeidsområdene ble eksponert, og har koblet seg fra Fireworks.

Hendelsene viser den praktiske siden av Zhaos egen pitch: Når bedrifter samler sensitive data og finjusterte modeller hos en leverandør av custom-infrastruktur, oppstår det en ny eksponeringsflate som ikke finnes når man bare sender tokens til et etablert laboratorium. Det er verdt å merke seg at frontmodell-leiren har sitt eget motargument i samme retning – Microsoft-sjef Satya Nadella reiste i juli bekymring for at frontlaboratoriene absorberer for mye av kundenes know-how, selv om det bare er gjennom promptene som brukes for å få svar. Begge veiene har altså dokumenterte risikoer; Fireworks sin er for øyeblikket mer synlig.

Børsfesten som setter rammen

Zhaos argument kom samme dag som Anthropic fullførte en børsnotering som ifølge The Motley Fool samlet inn 81,3 milliarder dollar – 6,3 milliarder mer enn SpaceX' notering på 75 milliarder dollar, og dermed historiens største målt i innsamlet kapital. Aksjene ble prissatt til 83 dollar og stengte første dag på 97,17 dollar, rundt 17 prosent over emisjonsprisen, ifølge BBC.

Poenten er ikke at Anthropic-entusiasmen motbeviser Zhaos kostnadstese. Men den viser hvor mye kapital og tro som nå ligger i frontmodell-siden av debatten – og hvor stor forskjellen det er mellom å hevde at gapet er tre måneder og at markedet tror det.

Et marked i rask bevegelse

Interessen for custom-modell-siden er også dokumentert i pengeflyt. På onsdagen kunngjorde Palo Alto Networks at det kjøper Applied Compute for 4,5 milliarder dollar, hele beløpet i aksjer. Applied Compute, som i likhet med Fireworks hjelper selskaper med å trene og kjøre egne KI-modeller på egne data, ble grunnlagt for bare et år siden av tidligere OpenAI-forskere. Rivalene Together AI og Baseten har i løpet av de siste månedene annonsert store finansieringsrunder.

Fireworks selv ble tildelt en verdsetting på 17,5 milliarder dollar av investorene sine i sommer, og skal ifølge TechCrunch være i «tidlige forhandlinger» om en ny runde. Zhao nektet å kommentere – runden er altså rapportert, ikke bekreftet.

Hva som står igjen åpent

Flere ting bør leses med varsomhet. For det første hviler alle Zhaos tall – seksmånedersgapet, token-terskelen, to-modell-tesen – på et sceneframøte og selskapets egne rammer, ikke på uavhengige benchmarks. For det andre er sikkerhetshendelsene kjent gjennom TechCrunchs gjengivelse av Fireworks' egne opplysninger; selskapets primære hendelsesrapporter og eksakt omfang av Uber- og Notion-eksponeringen er ikke dokumentert direkte her. For det tredje er finansieringsrunden usikker til den er bekreftet.

Det etterlatte spørsmålet er likevel konkret: Hvis Zhao har rett om tre måneders gap og ruting etter kostnad per oppgave, vinner bedriftene på åpen infrastruktur. Hvis hendelsene i høst er symptomet, betaler de for det. Mest sannsynlig er begge deler sanne samtidig – og valget mellom frontmodeller og åpne modeller blir et valg mellom to ulike risikoprofiler, ikke et spørsmål om én av dem er trygg.

Få de viktigste AI-nyhetene i innboksen

Nyheter, analyser og verktøy samlet for deg.