De ontwikkeling van Trainium2 in de vestiging van Amazon in Texas

Amazon is begonnen met de ontwikkeling van zijn derde generatie AI-chip, Trainium2, in een faciliteit ten noorden van Austin, Texas. Dit meldt Bloomberg News, dat verschillende topmanagers binnen het bedrijf heeft geïnterviewd. Trainium2 maakt deel uit van Amazons strategie om de controle over de chipproductie over te nemen en de afhankelijkheid van externe leveranciers zoals Nvidia, momenteel een belangrijke leverancier van AI-chips aan de datacenters van Amazon, te verminderen.

Amazon gebruikt al lange tijd Nvidia-chips voor zijn AI-gebaseerde diensten, maar het bedrijf wil deze nu vervangen door eigen, op maat gemaakte chips die geoptimaliseerd zijn voor zijn specifieke behoeften. Dit maakt deel uit van Amazons bredere streven om eigen hardware te ontwikkelen om zijn diensten kosteneffectiever en flexibeler aan te sturen.

– Nvidia is een zeer, zeer bekwaam bedrijf dat uitstekend werk levert., zodat ze voor veel klanten nog lang een goede oplossing zullen hebben, zegt James Hamilton, senior vice president bij Amazon, en een centrale figuur in de beslissing om te investeren in eigen chips. Hamilton was degene die Amazon-oprichter en toenmalig CEO Jeff Bezos ervan overtuigde te investeren in de ontwikkeling van eigen chiptechnologie om beter aan toekomstige behoeften te voldoen.

– Wij zijn ervan overtuigd dat wij een onderdeel kunnen produceren dat in alle opzichten met hen kan concurreren., voegt Hamilton toe. Het is een sterke indicatie dat Amazon gelooft dat het gevestigde aanbieders in de markt, zoals Nvidia, kan verslaan door zijn eigen chips te ontwerpen en te produceren.

Trainium2: een cruciale mijlpaal in de strategie van Amazon

Trainium2 wordt gezien als een “"Make-or-break"-moment voor Amazon, aldus experts in de chipindustrie. Volgens de zogenaamde drie generatieregel, een vaststaand principe in de chipontwikkeling, moet Trainium2 voldoende prestaties leveren om de investering die het bedrijf in de ontwikkeling ervan heeft gedaan, te rechtvaardigen. Als de chip niet aan de industrienormen en -verwachtingen voldoet, riskeert Amazon zijn investering te moeten heroverwegen en mogelijk andere alternatieven te moeten zoeken.

– Ik heb letterlijk nog nooit een product gezien dat afweek van de drie-generatieregel, zegt Naveen Rao, een veteraan in de chipindustrie en huidige AI-expert bij Databricks. Rao is een bekende figuur die toezicht houdt op de ontwikkeling van AI-oplossingen op Databricks, dat onlangs een overeenkomst sloot met Amazon om Trainium2 te gebruiken als basis voor zijn AI-tools.

Het is daarom een cruciaal punt in Amazons langetermijnplan om zelfvoorzienender te worden wat betreft de geavanceerde chips die nodig zijn om AI-oplossingen op grote schaal te kunnen uitvoeren.

Samenwerking met Databricks en verbeterde prestaties

In oktober 2023 kondigde Databricks een overeenkomst aan met Amazon waarin het bedrijf ermee instemde zijn AI-modellen te trainen op Trainium2, als onderdeel van hun langetermijnsamenwerking met de clouddienst van Amazon, AWS (Amazon Web Services). Momenteel zijn de AI-tools van Databricks voornamelijk afhankelijk van Nvidia-chips, maar de nieuwe overeenkomst houdt in dat sommige onderdelen van hun systeem geleidelijk worden vervangen en in plaats daarvan worden aangestuurd door Trainium2.

Volgens Amazon, Trainium2 indrukwekkende specificaties. De chip zou moeten hebben vier keer hogere prestaties En drie keer zoveel geheugen als de vorige generatie. Dit maakt Trainium2 een krachtigere oplossing voor het verwerken van de enorme hoeveelheid berekeningen en data die nodig is om geavanceerde AI-modellen te trainen en uit te voeren. Amazon verwacht dat deze chip hun concurrentiepositie zal versterken, niet alleen ten opzichte van Nvidia, maar ook andere grote spelers in de chipindustrie, zoals Intel en AMD.

Amazon heeft duidelijk gemaakt dat het doel niet alleen is om een concurrerend product te creëren, maar ook om ervoor te zorgen dat hun interne AI-infrastructuur op de lange termijn efficiënter en kosteneffectiever wordt. Als Trainium2 succesvol is, zou het de standaard kunnen zetten voor hoe bedrijf ontwerpt en gebruikt gespecialiseerde chips om zijn AI- en clouddiensten in de toekomst aan te drijven.

Amazon en de toekomst van AI-chips

Amazons investering in eigen AI-chips sluit duidelijk aan bij de langetermijnvisie van het bedrijf om een toonaangevende speler te blijven in zowel de cloud- als de AI-markt. Het ontwikkelen van eigen chips levert niet alleen technische innovatie op, maar ook economische voordelen op de lange termijn, omdat het de afhankelijkheid van externe leveranciers kan verminderen en daarmee de kosten op de lange termijn kan verlagen.

Voor meer informatie over AI-chips en hun ontwikkeling kunt u hier meer lezen Officiële website van Nvidia over hun laatste voortgang, of verdiep je in het werk van Amazon op het gebied van clouddiensten door AWS-website.