Google breddar sina AI-kretsar med TPU 8tx för krypterad behandling och TPU 8i Max för stora mängder kontext

Uppgifter från leverantören

Illustration · inte ett produktfoto

Google har presenterat två nya system i sin åttonde generation av egenutvecklade AI-processorer. TPU 8tx ska skydda känsliga data även medan de bearbetas, och TPU 8i Max lägger två kretsar i samma paket för AI-agenter som behöver hålla mycket information i minnet.

Google meddelade den 9 november att företagets åttonde generation av TPU, de egna processorerna för AI, får två nya system: TPU 8tx och TPU 8i Max. De ansluter till TPU 8t för träning och TPU 8i för snabba svar, som presenterades i april. Enligt Google är det första gången företaget lanserar fyra TPU-system under ett och samma år.

TPU 8tx riktar sig till myndigheter och reglerade företag. Data krypteras normalt när de lagras eller skickas, men måste låsas upp i minnet medan de bearbetas. I TPU 8tx är skyddet inbyggt i hårdvaran så att data och modellvikter enligt Google hålls skyddade och isolerade även under själva beräkningen. Systemet bygger på samma kisel som TPU 8t och körs tillsammans med AMD EPYC-processorer av femte generationen.

TPU 8i Max är byggt för AI-agenter som arbetar med mycket stora mängder underlag samtidigt, till exempel en hel kodbas eller timmar av video. Google har satt två TPU 8i-kretsar i samma paket, vilket enligt företaget ger dubbelt så mycket beräkningskraft, SRAM-minne och minnesbandbredd som TPU 8i, och dubbelt så mycket kisel på samma yta i ett serverrack.

Google uppger också att TPU 8tx ger upp till hälften så lång fördröjning som TPU 8t. Alla prestandasiffror är Googles egna och har inte kontrollerats oberoende.

Samtidigt vill Google göra kretsarna lättare att använda för utvecklare. Företaget har öppnat källkoden till TorchTPU, så att kod skriven i PyTorch och modeller från Hugging Face kan köras direkt på TPU. Enligt Google har TPU-verksamheten i dag nästan 100 kunder.

För dig i Sverige

TPU-kretsarna säljs inte till privatpersoner, men de driver Googles egna AI-tjänster som Gemini och hyrs ut via Google Cloud, som även svenska företag, myndigheter och forskare använder. Krypterad behandling i hårdvaran kan vara intressant för verksamheter med känsliga uppgifter och krav på dataskydd. Google anger inte när systemen blir tillgängliga eller i vilka regioner, så det är inte bekräftat när – eller om – de kan användas från datacenter i Sverige eller övriga Europa.