I dag presenterade Google två nya system i sin åttonde generation av TPU:er: TPU 8i Max och TPU 8tx. Systemen är specialiserade för AI med höga krav på säkerhet och stora kontextfönster och riktar sig mot olika delar av AI livscykel. Det är första gången Google lanserar fyra olika TPU-system under ett och samma år.
Google använder TPU på flera olika sätt: för att träna och köra sina egna Gemini-modeller och hantera agentbaserade arbetslaster, för att leverera tjänster till Google Cloud-kunder via den egna molninfrastrukturen och, på senare tid, för att låta kunder installera TPU-system direkt i sina egna datacenter som svar på ett ökat intresse och en växande efterfrågan. TPU har därmed blivit ett snabbt växande affärsområde med närmare 100 kunder, däribland ledande AI-laboratorier, handelsföretag, detaljhandelsföretag och universitet.
TPU 8t och TPU 8i, som presenterades för första gången på Cloud Next i april 2026, lade grunden för den här generationens chip. Jämfört med tidigare TPU-generationer erbjuder de upp till 2,7 gånger bättre prestanda vid träning respektive 80 procent bättre prisprestanda vid inferens. 
TPU 8t är utformad för kraftfull träning av mycket stora grundmodeller med maximal ”goodput”, det vill säga hur mycket användbar beräkningskapacitet som levereras per watt förbrukad energi. TPU 8i är utvecklad för AI-resonemang och för att minska begränsningar i minneskapaciteten, bland annat genom att halvera fördröjningen i kommunikationen mellan chip.
När allt fler företag nu börjar använda autonoma AI-agenter i produktion har Google tagit fram två nya varianter baserat på dessa system, TPU 8i Max och TPU 8tx. De är utvecklade för att möta två nya och växande behov: datasäkerhet på hårdvarunivå och kontextfönster på upp till en miljon tokens.
”I takt med att beräkningsbehoven går från mänsklig skala till agentskala ökar företagens efterfrågan på acceleratorer som kan hantera AI-resonemang över mycket stora kontextfönster. Samtidigt behöver vissa verksamheter med omfattande regulatoriska krav särskilda krypteringsfunktioner för specifika arbetsbelastningar”, säger Amin Vahdat, Chief Technologist och Senior Vice President för AI and Infrastructure på Google.
”De nya TPU-systemen är utvecklade för att möta dessa behov. Tillsammans med vårt senaste besked om PyTorch är målet att göra TPU mer tillgängliga för alla utvecklare och kunder. Genom att kombinera modulära, egenutvecklade chip med en öppen och lättanvänd mjukvarustack kan vi leverera ny hårdvara och nya systemkonfigurationer i takt med att AI utvecklas.
TPU 8tx, optimerad för säker inferens och träning i mindre skala
TPU 8tx är utvecklad för verksamheter med omfattande regulatoriska krav och offentlig sektor som använder avancerade eller egenutvecklade modeller och autonoma AI-agenter tillsammans med särskilt känsliga data.
Vanligtvis krypteras data när den lagras eller skickas över ett nätverk, men måste dekrypteras i minnet när den bearbetas. TPU 8tx bygger på samma chip som TPU 8t och kombineras med specialanpassade AMD-processorer.
Säkerheten är integrerad direkt i hårdvaran, vilket innebär att känsliga data och modellvikter kan hållas skyddade och isolerade även när de används aktivt.
Genom att använda samma Boardfly-nätverk med låg latens som utvecklats för AI-resonemang i realtid kan TPU 8tx samtidigt hålla nere fördröjningen i arbetsflöden med AI-agenter i flera steg. Systemet ger två gånger lägre latens än TPU 8t med en närmast obefintlig påverkan på prestandan.
Kombinationen av beräkningskapacitet för träning och ett snabbt nätverk för inferens innebär också att organisationer kan köra och anpassa sina modeller i samma system.
Med TPU 8tx kan team finjustera modeller med hjälp av egna privata data, överföra kapacitet från stora modeller till mindre modeller genom så kallad distillation och träna AI-agenter med reinforcement learning, utan att behöva flytta känsliga data mellan separata kluster.
TPU 8i Max, utvecklad för att hantera minnesbegränsningar
När många AI-agenter arbetar tillsammans med exempelvis en hel kodbas eller flera timmars videomaterial samtidigt kan minnesbandbredden snabbt bli en flaskhals.
TPU 8i Max kombinerar två TPU 8i-chip med låg latens i ett och samma paket, vilket gör att beräkningskapacitet och minne kan skalas tillsammans.
Jämfört med TPU 8i ger det dubbelt så hög beräkningskapacitet, dubbelt så mycket SRAM och dubbelt så hög HBM-bandbredd.
Det gör att processorerna har tillgång till den data som behövs och minskar risken för att stora arbetslaster bromsas upp.
Eftersom TPU 8i Max dessutom rymmer dubbelt så mycket chipkapacitet inom samma rackutrymme kan datacenter få betydligt större beräkningskapacitet per kvadratmeter och per watt.
De fyra systemen i Googles åttonde generation av TPU är flexibla och kan hantera olika typer av arbetsbelastningar.
Tillsammans ger de kunderna tillgång till specialutvecklade AI-acceleratorer för varje steg i AI-agenternas livscykel: TPU 8t för storskalig modellträning, TPU 8i för AI-resonemang med låg latens, TPU 8tx för säker behandling av känsliga data och TPU 8i Max för mycket stora kontextfönster och högsta möjliga beräkningskapacitet per serverrack.
Läs mer om Googles nya TPU-system på Google In the News eller följ dagens sändning klockan 18.
Om Google Cloud
Google Cloud erbjuder en kraftfull och optimerad AI-stack som omfattar AI-infrastruktur, ledande modeller som Gemini, lösningar för datahantering, säkerhetslösningar för multicloud-miljöer, verktyg och plattformar för utvecklare samt AI-agenter och applikationer.
Det ger organisationer möjlighet att utveckla och förändra sina verksamheter för en framtid präglad av agentbaserad AI. Kunder i fler än 200 länder och territorier använder Google Cloud som en betrodd teknikpartner.
