Nå kan PyTorch-kode kjøre direkte på Amazons Trainium-brikker
Amazon kunngjorde 19. oktober 2026 TorchNeuron, en åpenkildekode-backend som lar eksisterende PyTorch-kode kjøre på Amazons egne Trainium-brikker med én konfigurasjonsendring. Programvaren åpnes som offentlig beta for alle utviklere ved PyTorch Conference North America i San Jose 20. oktober.
Nyheten
I en annonsering 19. oktober 2026 opplyste Amazon at TorchNeuron blir utgitt under en åpenkildekodelisens ved PyTorch Conference North America 20. oktober. Kjernebudskapet er at «PyTorch-koden utviklere allerede skriver, kjører nativt på Amazons AWS Trainium-brikker, med én konfigurasjonsendring og ingen omskriving» (758fdc13).
Det kan høre enkelt ut, men poenget er grunnleggende for hvordan AI-maskinvare velges. Standard PyTorch-økosystemet er tett knyttet til Nvidias CUDA-programvare, og flytting av treningsjobber til egne brikker har tradisjonelt krevd betydelig tilpasningsarbeid. TorchNeuron er Amazons forsøk på å fjerne akkurat den barrieren.
Verktøyet har vært i privat beta siden slutten av fjoråret, og ifølge Amazon har over 30 selskaper og interne Amazon-team brukt det. 19. oktober ble den offentlige betautgivelsen kunngjort (a35fa866).
Slik fungerer det
Amazon selv demonstrerte tilnærmingen side om side: samme treningsscript ble kjørt på en konvensjonell brikke og på Trainium, og den eneste forskjellen var en innstilling som fortalte koden hvilken brikke som skulle brukes. Ifølge Amazons demonstrasjon lærte modellen «de samme tingene i samme tempo» (758fdc13).
Det er viktig å understreke at dette er en Amazon-demonstrasjon uten uavhengig benchmark. Kilden er selskapets egen annonsering, som er promotorisk i tonen. Resultatet viser at tilnærmingen fungerer i Amazons oppsett — ikke at ytelsen er sammenlignbar på alle arbeidsbelastninger.
Teknisk sett fungerer TorchNeuron som en backend i PyTorch-økosystemet. Ifølge en rapport fra Let's Data Science, som henviser til Amazons og PyTorchs egne kunngjøringer, skal PyTorch ha publisert en teknisk annonsering som bekrefter integrasjonen som del av rammeverkets økosystem (064d3754).
Førsteutgivelsen har dokumenterte hull
Førsteutgivelsen er langt fra komplett. Ifølge PyTorch-blogginnlegget, slik TNW gjengir det, støtter TorchNeuron ennå ikke enkelte PyTorch-funksjoner, som dynamiske inndataformer, og rundt 22 000 PyTorch-tester hoppes over (9d810c2a).
Det betyr i praksis at team som vurderer TorchNeuron fortsatt må gjøre arbeidsspesifikk validering: sjekke at operatørene jobben deres bruker, er støttet, og teste ytelse og kostnad for egne jobber. Det er ikke en drop-in-erstatning for alle formål ennå — det er en beta.
Hvorfor det er strategisk for Amazon
Saken handler om mer enn utviklerkomfort. Nvidia har lenge hatt en sterk posisjon nettopp i programvarelaget: CUDA-økosystemet gjør at kode skrevet for Nvidias brikker i praksis forblir der. TorchNeuron er et direkte angrep på den posisjonen.
Amazons innsats går også utover egen maskinvare. Selskapet bidrar med endringer oppstrøms i selve PyTorch og jobber med PyTorch-miljøet for å fjerne kode som binder rammeverket til spesifikke brikker. Målet, ifølge Amazons blogginnlegg gjengitt av TechCrunch, er å gjøre PyTorch mer maskinvareuavhengig for hele utviklermiljøet, ikke bare Trainium-brukere (43c082af).
Colin Brace, visepresident for programvareteknologi i AWS Annapurna Labs, oppsummerte det slik: «Hvis du kan PyTorch, kan du Trainium» (a35fa866). Til TechCrunch sa han: «Den egentlige historien er å fjerne innlåsingen som hindret utviklere i å ha et reelt valg i det hele tatt» (43c082af).
Satsningen har allerede betydelig kommersiell vekt. I sitt årlige aksjonærbrev i april skrev Amazon-sjef Andy Jassy at chipvirksomheten, inkludert Trainium og Graviton, hadde en årlig omsetningsrunerate på over 20 milliarder dollar. Han estimerte at tallet ville vært rundt 50 milliarder dollar hvis brikkene ble solgt til AWS og andre kunder av et selvstendig chip-selskap, ifølge GeekWire (a35fa866). (TNW oppgir et høyere tall på 25 milliarder dollar; de to tallene strider med hverandre og er uavklart i kildene.)
De største Trainium-brukerne så langt er AI-laboratorier med tette Amazon-bånd: Anthropic, som Amazon har investert milliarder i, trener og kjører Claude-modellene sine på brikkene. OpenAI ble i februar enige om å bruke 2 gigawatt Trainium-kapasitet i en avtale der Amazon investerer 50 milliarder dollar i selskapet (a35fa866).
Hvem bruker det
Listen over tidlige brukere viser bredden i betaen: talespråks-AI-selskapene Cartesia og Deepgram, Lieber Institute for Brain Development som bruker brikkene i legemiddelforskning, og Hugging Face som har lagt til Trainium-støtte i AI-verktøyene sine. Uber har nylig signert en AWS-utvidelsesavtale for å ta brikkene i bruk, ifølge TNW (9d810c2a).
Deepgram-tallet er det mest konkrete kundetallet så langt: Etter å ha flyttet til Trainium med nativ PyTorch-støtte, prosesserer selskapet angivelig 70 prosent mer lyd per dollar «med produksjonskvalitets-nøyaktighet», sa Brace til TechCrunch (43c082af). Dette er et selskapsutsagn framført av Amazons egen visepresident — ikke en uavhengig verifisering, og det gjelder én spesifikk arbeidsbelastning.
Åpne spørsmål
Tre spørsmål avgjør om TorchNeuron blir en marginal forbedring eller en reell forskyvning i markedet.
Det første er uavhengig ytelsesverifisering. Så langt stammer de mest siterte gevinstene — Amazons demoresultat og Deepgrams 70 prosent — fra Amazon selv eller Amazons kunder og talspersoner. Uavhengige benchmarks på ulike arbeidsbelastninger mangler foreløpig.
Det andre er tempoet i lukkingen av testhullene. Rundt 22 000 hoppede tester og manglende støtte for dynamiske inndataformer angir hvor langt førsteutgivelsen er fra full PyTorch-kompatibilitet. Hvor raskt Amazon får lukket dette, vil si mye om hvorvidt betastadiet varer uker eller kvartaler.
Det tredje er hvordan Nvidia svarer. Historisk har Nvidias styrke vært nettopp programvareøkosystemet, og TorchNeuron er Amazons hittil mest direkte forsøk på å angripe det laget, slik TechCrunch ramser det opp (43c082af). Nvidia har ikke gjengitt noe svar i kildene som ligger til grunn for denne saken.
For utviklere som velger AI-maskinvare i dag, er det praktiske budskapet uavhengig av strategiske spørsmål: Hvis kodebasen din allerede er PyTorch, er terskelen for å teste Trainium nå markant lavere — men test arbeidsbelastningen din selv før du konkluderer om ytelse og kostnad.