Google își extinde familia de procesoare AI auto-proiectate cu două noi variante, una proiectată pentru calculatoare care necesită protecția celorlalte date sensibile la sarcina de memorie. Compania dorește să continue să-și extindă oferta de cipuri într-un context în care Nvidia a dominat în toți acești ani. Și cu aceste cipuri există deja patru configurații ale TPU-urilor lor într-un singur an, o piatră de hotar pentru companie.
Știri. Cele două sisteme sunt TPU 8tx și TPU 8i Max. Ei se alătură lui TPU 8t, conceput pentru antrenament, și TPU 8i, conceput pentru raționament, pe care compania l-a introdus în cadrul Google Cloud Next în aprilie. Google susține că modelul 8t oferă performanțe de antrenament de până la 2,7 ori mai bune, iar modelul 8i oferă o performanță cu până la 80% mai bună în comparație cu generația anterioară.
Google nu a dezvăluit prețurile sau datele exacte de lansare, deși șeful său de cipuri, Amin Vahdat, a declarat că variantele Bloomberg vor fi disponibile în noul an.
De ce este important. După cum transmit Bloomberg, Google a lansat noi TPU o dată la doi ani. De această dată există patru configurații în aceeași generație, ceea ce demonstrează interesul companiei de a obține o cotă mai mare pe piața hardware AI. De ceva timp, Nvidia este cea care vinde și tăie peștele. Dar TPU-urile Google vin cu din ce în ce mai multă forță. Vahdat a subliniat că strategia răspunde tezei că „viitorul se va învârti în jurul specializării”. În loc de un singur cip pentru orice, susține el, versiunile personalizate „oferă mult mai multă valoare.”
Această versiune folosește același siliciu ca și TPU 8t și este combinată cu procesoarele AMD EPYC din a 5-a generație. În plus, Google susține că oferă o latență de până la două ori mai mică decât 8t, cu o penalizare de performanță aproape zero pentru acea securitate suplimentară. De asemenea, compania se asigură că clienții pot ajusta modelele cu date private fără a fi nevoie să le mute între clustere.
Opțiunea de memorie. TPU 8i Max se concentrează pe ceea ce Google numește „peretele de memorie”, adică atunci când mulți agenți de inteligență artificială lucrează pe o bază întreagă de cod sau ore de video, lățimea de bandă a memoriei devine blocajul. Răspunsul Google este să pună două cipuri TPU 8i într-un singur pachet. În comparație cu 8i standard, susține că acest lucru dublează puterea de calcul, memoria SRAM integrată și lățimea de bandă a memoriei. De asemenea, permite integrarea de două ori mai mult siliciu în același spațiu de rack, ceea ce ar permite centrelor de date să aibă mai multe cipuri și mai multă putere pe aceeași suprafață.
Vahdat a spus Bloomberg că sistemul este destinat aplicațiilor de lungă durată, cum ar fi descoperirea de medicamente sau probleme complexe, cum ar fi matematice, precum și programarea de droguri.
Versiuni îmbunătățite. Nu sunt chiar cipuri complet noi, așa cum Vahdat însuși a indicat presei că ambele variante sunt reconfigurari ale siliciului existent, adaptate la cerințele clienților. Un nou cip necesită ani de proiectare și fabricare, în timp ce un sistem construit în jurul lui (rețea, memorie, ambalare) poate fi reglat fin în câteva luni. Google preferă să profite de această abordare pentru a ține pasul cu software-ul AI.
Piața pentru TPU-uri Google. Potrivit Bloomberg Intelligence, se așteaptă ca vânzările de TPU, inclusiv hardware și software aferent, să depășească 135 de miliarde de dolari până în 2028, față de aproximativ 12 miliarde de dolari în acest an. Printre clienți se numără Apple, Meta și Oracle, care a indicat că clienții săi din cloud vor putea folosi TPU începând de anul viitor. Anthropic are opțiunea de a cumpăra până la 150 de miliarde de dolari în TPU între 2028 și 2031, potrivit unui document de reglementare citat de Bloomberg, iar același punct de vânzare a raportat că ei.
Obstacolele. Conform parts la Google Bloomberg, toate rezultatele de testare a companiei sunt prezentate de Bloomberg, toate cele de testare a companiei. deja angajat de un client. Lipsa memoriei și a capacității de producție persistă, iar Google își extinde baza de furnizori dincolo de Broadcom, inclusiv un acord cu Marvell.
Apare și concurența, deoarece Tenspresso, un startup fondat de doi foști ingineri TPU, se concentrează pe inferențe în context lung, deși Bloomberg raportează că cipul său este la cel puțin un an până la finalizarea designului său. OpenAI și Anthropic dezvoltă, de asemenea, cipuri proprietare cu veterani TPU.
Imagine de copertă | Google
În investigația noastră tehnică | Lituania are 2,9 milioane de locuitori, dar concurează cu China producând lasere pentru cipuri AI în serie