Inteligență Artificială & LLM

Hyperscalerele au mii de carduri Nvidia în cutiile lor, deoarece nu au unde să le conecteze

Hyperscalerele au mii de carduri Nvidia în cutiile lor, deoarece nu au unde să le conecteze

Când vorbim despre hiperscaleri, ne referim la „nori” mari precum Microsoft, Amazon, Google sau Meta. Aceste companii și-au înmulțit investițiile în infrastructura AI de luni de zile și Nvidia a transformat această investiție în cifre record de vânzări. Ceea ce nu este atât de clar este câte dintre aceste cipuri funcționează de fapt. 

Din ce în ce mai multe voci apar care sugerează că marile companii adună o grămadă de GPU-uri care >. href="https://www.Serviciul Secret de Inteligență.com/empresas-y-economia/jensen-huang-ceo-nvidia- Verdaderos-ganadores-carrera-ia-seran-electricistas-fontaneros">centre de date și energie electrică. Și în timp ce unii văd semne de bule, alții spun că nu.

Pe scurt

În urmă cu câteva săptămâni, analistul Ed Zitron a publicat o analiză bazată pe conturile marilor companii de tehnologie. Se estimează că Nvidia și Broadcom au vândut mai mult de 560 de miliarde de dolari în cipuri și echipamente AI de la începutul ei, dar nu ar fi instalat direct jumătate din ele, dar ar fi direct, fără instalarea a 20 de miliarde de dolari. fara putere. Acestea sunt estimări Zitron, dar în Bloomberg S-a raportat deja că Microsoft avea aproximativ două cipuri și capacitatea totală de 12 GW, care corespunde cu aproximativ 12 cipuri AI. Însuși Satya Nadella a spus deja în noiembrie 2025 că aveau cipuri care nu puteau fi conectate.

Mai multe calcule

Din nou, potrivit Zitron, în cazul Microsoft se vorbește de între 50.000 și 100.000 de milioane de dolari în GPU-uri care sunt în cutiile lor. Acesta este ceva despre care s-a vorbit deja înainte. Pentru că, practic, hyperscalerii cumpără ca nebunii cu ideea de a putea conecta GPU-uri undeva. moment în acele centre de date care nu au fost încă construite. Dar, deși este o estimare a analistului, în 19 octombrie trecut, o investigație realizată de Busines Insider a îndreptat în aceeași direcție în cazul Amazon.

.

Cheltuielile Amazon în acest an sunt estimate la aproximativ 220 de miliarde de dolari și are un flux de numerar negativ din cauza acestor cheltuieli. Potrivit presei, e-mailurile interne din această vară arată că au anticipat aproximativ 5.000 de milioane în rafturi cu cipuri GB300 de la Nvidia în august, alte aproximativ 3.000 de milioane pe lună de atunci înainte.  Și se pare că Amazon are centre de date, dar nu suficientă putere, așa că echipamentele sunt depozitate în depozite intermediare care așteaptă să fie puse la treabă.

Cineva a aruncat o privire la conturile Microsoft cu cipuri AI și a descoperit ceva îngrijorător: nu se adună
Cineva a aruncat o privire la conturile Microsoft cu cipuri AI și a descoperit ceva îngrijorător:

Pe termen lung

Problema este că, pe baza acestei investigații, Amazon nu se așteaptă ca problema să fie rezolvată în curând. Într-o întâlnire internă din luna septembrie, șeful de infrastructură al AWS a spus că se așteaptă să mențină acel flux de numerar negativ „pentru câțiva ani”. În 2003, AWS se aștepta să depășească decalajul de capacitate în 2027, dar acum se așteaptă că va exista în continuare mai multă cerere decât capacitate în acel an.

În ciuda tuturor, se pare că merită, deoarece AWS a crescut cu 37% în al doilea trimestru din acest an, cel mai rapid ritm din ultimele 18 trimestre. Să ne amintim că în acest an, investiția este astronomică, cu cei 190.000 milioane de dolari amintiți de la Microsoft, 145.000 milioane de la Meta, 205.000 de la Google și 220.000 de la Amazon. În total, și numai cu cei patru fără să ținem cont de alții, 760.000 de milioane de dolari 

AI a cheltuit deja mai mult decât ne-a costat să ajungem pe Lună. Într-un an. Cu doar patru companii din Silicon Valley

Bubble?

La câteva zile după articolul Business Insider, Jennifer M. Harris a publicat un eseu de opinie în New York Times în care explică modul în care situația actuală a crizei financiare este aminte de criza hiper20cală a unor hiper2020020020020202020 York Times. nu este prima dată când s-a spus, chiar și de voci care deja s-a dovedit că Harris 200> a văzut că deja 200> oficialul economic de la Casa Albă în timpul erei Biden.

Pentru a susține teza, Harris preia date din Wall Street Journal din august, când aproximativ 3 trilioane de datorii în afara bilanţului au fost atribuite celor mai mari nouă companii de tehnologie. El mai menționează că Financial Times a plasat veniturile anuale estimate ale OpenAI la aproximativ 50 de miliarde de dolari, ceea ce, da, este mult, dar este cu aproape 30% mai puțin decât se aștepta. 

Și marea problemă este că datoria pe care companiile le asumă este finanțată parțial cu credite private legate de asigurări și economii pentru pensii. El susține că AI ar trebui să genereze până la trei trilioane pe an pentru a returna capitalul investit și că deficitul lasă puțin loc pentru o salvare. Singura soluție este ca Guvernul să-și asume IA de frontieră ca parte integrantă a politicii, cu un laborator național și o infrastructură de calcul care este un serviciu public.

„Companiile responsabile de protejarea pensiilor și asigurărilor noastre ne riscă din nou banii achiziționând produse complicate susținute de active de valoare incertă” - Jennifer M. Harris

Bubble?

Hai, dependența creditelor de IA ar însemna că, dacă va exploda, ar șterge o mare parte a țesutului economic american și știm deja care sunt consecințele pentru restul Occidentului. Dar, desigur, apoi există voci precum cea a unuia dintre cei mai interesați de creșterea infinită a AI: „de data aceasta este diferit” și că nu există o astfel de bulă pentru că ceea ce are loc acolo și nu este o schimbare industrială, a existat o schimbare industrială năucitoare. bula anului 2008.

Deși există o mulțime de bani care nu aterizează, acea frână sănătoasă este lipsa de energie și încetineala în amenajarea centrelor de date. Acesta este impedimentul fizic care împiedică companiile să cheltuiască și să cheltuiască la nebuni și de aceea această perioadă este diferită. Odată ce centrele de date și puterea sunt la locul lor, lucrurile se vor schimba. O altă voce interesată este cea a lui Masayoshi Son, CEO al SoftBank și cel mai mare acționar al OpenAI, care a comentat că a vorbi despre o bulă este „a blasfemia".

În cadrul companiilor foarte interesate de această tehnologie, există și profiluri mai moderate. Nadella, de fapt, deși nu consideră că există o bulă ca cea de acum mai bine de un deceniu, consideră că sectorul trebuie să atragă consumatorul pentru ca lucrurile să se termine cu bine.

Nvidia încetează să mai producă RTX 5090, cea mai puternică placă pentru jucători, conform unei scurgeri
Nvidia încetează să mai producă RTX 5090, cea mai puternică placă pentru jucători, potrivit unui leak

Consecințe

Deocamdată, în marile sfere, lucrurile par să meargă la fel ca în urmă cu luni de zile, cu progrese de neoprit în hardware de către Nvidia care continuă să vândă miliarde de GPU-uri principalelor hiperscaleri. Cea mai vizibilă consecință deocamdată este cea pe care o cunoaștem foarte bine: prețul componentelor.

În ultimele luni am văzut cum toată tehnologia de consum a crescut și a crescut din cauza atât prețului RAM și stocare, cât și lipsei stocului atât pentru utilizatori, cât și pentru companii înseși.A luat consolele înainte, dar și mobilul economic și vedem deja computere desktop, laptopuri și telefoane mobile premium care sunt mai scump decât acum un an fără a avea neapărat specificații mai bune.

Și cel mai rău este că nimeni nu știecat timp mai rămâne în această situație sau dacă prețurile vor reveni la normal odată ce situația se va stabiliza cu centrele de date. Potrivit Lenovo, atunci când furtuna trece, prețurile nu trebuie să revină la epoca de dinainte de criză. Și, pentru companii, are perfect sens: dacă avem nevoie de un computer, chiar dacă costă cu 500 de euro mai mult, o să-l cumpărăm și nu trebuie să scadă prețul.

Imagine | NVIDIA (editat)

În investigația noastră tehnică | Toate companiile AI doresc să-și creeze propriile cipuri, așa că Nvidia dorește acum să aibă propriul AI

Partajează acest dosar: