Én modell, tre funksjoner: IBM lanserer Granite Switch 4.1 i 8B og 30B
IBM har åpnet to modulære språkmodeller under Apache 2.0 som kombinerer en beslutningsadapter, en sikkerhetsadapter og en innebygd talegjenkjenner på én basemodell – angivelig uten vesentlig ekstra GPU-minne. Men alle ytelsestallene er foreløpig IBMs egne, og selskapets egne sammenligninger viser at spesialist-adapterne taper mot generalistmodellene på flere benchmarkser.
IBM lanserte Granite-Switch-4.1-8B og Granite-Switch-4.1-30B 15. oktober 2026, med model cards på Hugging Face datert 14. oktober (Unite.AI). Modellene er lisensiert under Apache 2.0, har et kontekstvindu på 128 000 tokens og støtter både Hugging Face Transformers og vLLM som kjøringsbackend. Kjernen i lanseringen er ikke en ny basemodell, men en sammensetning: én basemodell utstyrt med tre tilleggskomponenter som til sammen skal betjene chat, beslutningsvurdering og taleskriving fra ett endepunkt (IBM).
Hvordan sammensetningen fungerer
Granite Switch-prosjektet er ifølge IBM et modulært alternativ til tradisjonell modellutvikling, og bygger på Activated LoRA (aLoRA) – lette adaptere som kan aktiveres på en ferdig trent basemodell. Granite-Switch-4.1-modellene inkluderer tre slike komponenter (IBM):
- En Decision aLoRA for generell beslutningsvurdering. Ifølge Unite.AIs gjennomgang av model cards produserer adapteren en softmax-fordeling over merkede alternativer i én enkelt forward pass – altså en klassifisering direkte, uten generering av fritekst.
- En Guardian aLoRA, en spesialisert sikkerhetsadapter som IBM hevder «i gjennomsnitt» slår Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions og Clef-Flash på sikkerhetsrelaterte beslutningsoppgaver.
- Granite-Speech-5.0-Turbo-CTC, en tale-til-tekst-modell som IBM beskriver som den raskeste ASR-modellen på OpenASR Leaderboard, innebygd for transkripsjonsoppgaver.
«Alle tre teknologiene (sammen med den underliggende basemodellen) er satt sammen til én modell, som opptar omtrent like mye VRAM på en GPU som basemodellen alene ville gjort. Det betyr flere funksjoner med færre GPU-er», skriver IBM i blogginnlegget på Hugging Face. IBM skriver videre at gjenbruk av aLoRA-cache, i tillegg til kjernebidrag i vLLM, skal gjøre byttingen mellom chat-, beslutnings- og taleforespørsler rask – men selskapet oppgir ingen konkrete latens- eller byttetall, så påstanden forblir kvalitativ.
Eksempelet IBM selv trekker frem, er 8B-modellen: transkribere lyd, generere oppsummeringer, sikte ut skadelig innhold og evaluere over 15 generiske flagg – alt på ett endepunkt, i sanntid (IBM). For en bedrift som i dag må drifte separate tjenester for transkripsjon, moderering og beslutningslogikk, er dette – hvis påstandene holder – det praktiske verdiløftet.
Tallene IBM selv har publisert
Beslutningsadapteren er målt på den offentlige «fast»-delen av Decision Index-benchmarken, et subsett på 1 068 rader. Tallene, som Unite.AI gjengir fra model cards:
| Kategori | 8B | 30B |
|---|---|---|
| Samlet | 42,9 | 50,1 |
| Knowledge | 29,1 | 32,4 |
| Language | 48,9 | 58,6 |
| Retrieval | 49,8 | 49,8 |
| Tools | 59,8 | 76,5 |
| Arts | 18,0 | 26,4 |
30B-modellen er sterkest på verktøybruk med 76,5, og svakest på Arts-kategorien for begge størrelser (18,0 og 26,4). Disse tallene er rapportert av IBM og er ikke verifisert uavhengig.
Der spesialist-påstanden møter motbør
IBM argumenterer for at spesialiserte adaptere ofte slår generalister på snevre klassifiseringsoppgaver: «Mens Jev og andre lukkede beslutningsmodeller fokuserer på generalitet, har vi funnet at mange av våre spesialiserte granitelib-adaptere kan overgå generalistene på spesialiserte klassifiseringsoppgaver», skriver selskapet (IBM). IBM hevder også at en Granite-Switch-4.1-30B-konfigurasjon fullførte en femtrinns RAG-arbeidsflyt raskere enn Jev-27B.
Men IBMs egen sammenligning mot generalistmodellene viser også det motsatte bildet: den beste Granite-adapteren endte bak på LM-AggreFact (med 2,6 poeng), InfoBench-GPT4 (3,2 poeng) og InfoBench-Human (0,8 poeng) (Unite.AI). Spesialist-påstanden gjelder altså primært snevre klassifiseringsoppgaver – ikke beslutningsvurdering generelt. Lesere som vurderer modellen, bør merke seg at dette er IBMs egne benchmark-tall, og at ingen uavhengig evaluering av Granite Switch 4.1 foreligger i kildematerialet.
Hva som gjenstår å verifisere
Flere spørsmål er åpne etter lanseringen:
- Byttehastighet: IBM beskriver byttingen mellom oppgaver som svært rask, men oppgir ingen tall. Uten kvantifiserte latensmålinger forblir påstanden kvalitativ.
- Hosting og pris: Det er uavklart fra de tilgjengelige kildene om IBM tilbyr en hostingtjeneste for modellen, og til hvilken pris.
- Språkstøtte for lyd: Ifølge Unite.AI er taleskrivingskomponenten beskrevet som kun engelsk. For brukere utenfor engelskspråklige markeder er dette en vesentlig begrensning.
- Guardian-sammenligningen: Påstanden om at Guardian-adapteren slår Jev 1.13, Microsoft-Decision-1, GPT-Luna-Decisions og Clef-Flash er uspesifisert når det gjelder hvilke benchmarkser den bygger på, og hvem som har kjørt dem.
Hvorfor det er relevant nå
Granite Switch 4.1 lander i en periode der flere aktører lanserer dedikerte beslutningsmodeller, mens IBM posisjonerer adapter-basert spesialisering som et alternativ: én modulær modell der spesialisering skjer gjennom utskiftbare adaptere i stedet for separate utplasseringer. Er VRAM-påstanden holdbar i praksis, reduserer det den økonomiske terskelen for å kjøre flere AI-funksjoner samtidig – særlig for organisasjoner med begrenset GPU-kapasitet.
Men med åpne vekter under Apache 2.0 følger også muligheten for at uavhengige aktører verifiserer – eller motbeviser – IBMs tall. Model cards på Hugging Face gjør det mulig for tredjeparter å kjøre Decision Index og sammenlignings-benchmarkene selv. Frem til det skjer, forblir de sentrale ytelsespåstandene rundt Granite Switch 4.1 IBMs egne.