Google pospešuje lastne čipe TPU | Future Intelligence #35

Pretekli teden je težišče tehnologije premaknil od surove računske moči k temu, kdo jo ima in kako pride do uporabnika. Ozka grla in konkurenčni pritisk pri tem nastajajo zunaj samih pospeševalnikov - v optiki, podatkih in tem, kar nosite na obrazu. Google je osmo generacijo svojih TPU razširil z dvema sistemoma, ki bosta na voljo leta 2027, in tempo lastnega silicija povečal na štiri sisteme na leto. Samsung in Google sta odprla prednaročila za očala Android XR, ki so na voljo v 30 različicah okvirjev in stanejo od 395 dolarjev. Microsoft pritiska na Belo hišo, naj ustavi načrtovano prepoved uvoza kitajskih optičnih oddajnikov in sprejemnikov - komponent, brez katerih podatkovni centri za umetno inteligenco ne delujejo.

Future Intelligence je ekskluzivno analitično poročilo, ki izhaja enkrat tedensko in je na voljo samo članom Bulios Black. Člani ga vsako nedeljo zjutraj samodejno prejmejo po e-pošti - v celoti, vključno s konkretnimi scenariji in tržnimi implikacijami. Trajni dostop do poročila pridobite s članstvom v Bulios Black.

TPU 8tx in 8i Max: Google je pospešil lastni silicij na štiri sisteme na leto

Google je 9. novembra osmo generacijo svojih tensor processing units razširil z dvema sistemoma - TPU 8tx za zaupno računalništvo in TPU 8i Max za opravila z zelo dolgim kontekstom. Oba bosta na voljo leta 2027 in nadaljujeta aprilski TPU 8t in 8i.

Odločilno ni en sam čip, temveč tempo. »Prvič smo v enem letu predstavili štiri sisteme TPU,« je zapisal Amin Vahdat, podpredsednik in glavni tehnološki direktor za umetno inteligenco in infrastrukturo. Doslej je oddelek izdal en nov procesor vsaki dve leti.

Kaj se z novima sistemoma dejansko spreminja

Noben od sistemov ne prinaša novega silicija. Google je obstoječo osmo generacijo prekonfiguriral glede na ponavljajoče se želje strank. Pospešitev ritma je torej prednost pri integraciji sistema, ne pri proizvodnji - zato jo je mogoče ponoviti hitreje kot zasnovo novega čipa.

TPU 8i Max povezuje dva čipa 8i v eno ohišje: dvakrat več računske moči, 768 MB SRAM na čip in prepustnost HBM 17,2 TB/s, torej dvakrat več kot pri 8i. Kapaciteta HBM naraste na 384 GB, približno za tretjino, in to v enakem prostoru v omari.

Ko več deset agentov hkrati bere celotno kodno zbirko ali ure videoposnetkov, ozko grlo ni več računanje, temveč prenos podatkov med pomnilnikom in jedri. Temu pravimo pomnilniški zid, 8i Max pa ga rešuje s surovo močjo - več silicija in večja prepustnost na enaki površini.

TPU 8tx je namenjen nečemu drugemu: podatkom, ki ne smejo zapustiti zaščitenega okolja niti med obdelavo. Namenjen je vladnim agencijam in reguliranim panogam, uporablja omrežje z nizko zakasnitvijo Boardfly iz modela 8i, gostiteljske procesorje AMD EPYC Turin in zagotavlja do dvakrat večjo zmogljivost pri zakasnitvi kot 8t.

Od internega orodja do tržnega izdelka

Po navedbah Googla TPU danes uporablja skoraj 100 strank - od laboratorijev na meji raziskav prek trgovskih podjetij in trgovcev na drobno do univerz. Google hkrati dobavlja celovite sisteme v podatkovne centre strank in širi distribucijo prek partnerjev, med katerimi sta Oracle in Crux AI.

Največji referenci sta dve. Anthropic ima od leta 2027 v okviru sodelovanja z Googlom in Broadcomom dostop do približno 3,5 gigavata zmogljivosti na osnovi TPU, Alphabet pa navaja, da Apple svoje najnovejše temeljne modele trenira na zadnji generaciji.

Ekonomika je močnejši argument od specifikacij. Pri prejšnji generaciji SemiAnalysis ocenjuje skupne stroške lastništva do 30 % nižje kot pri GB200 in 41 % nižje kot pri GB300. Boljša podpora za PyTorch poleg tega zmanjšuje stroške prehoda za razvijalce, vajene konkurenčne platforme.

Kdo plačuje za pospešitev

Pospešeni ritem ima svojo ceno. Alphabet je v tretjem četrtletju poročal o negativnem prostem denarnem toku v višini 9,1 milijarde dolarjev, prihodki Google Clouda pa so dosegli 30,7 milijarde dolarjev, k čemur je prodaja sistemov TPU občutno prispevala. Oba nova sistema bosta na voljo šele prihodnje leto.

Financiranje se seli na trg dolga. Alphabet je začel svojo prvo izdajo obveznic v hongkonških in singapurskih dolarjih, s katero želi zbrati približno 3 milijarde dolarjev protivrednosti; za hongkonško tranšo je bila začetna cenovna indikacija okoli 4,6 % za dvoletne, 5 % za petletne in 5,5 % za desetletne obveznice.

Povpraševanje zaznava tudi proizvodnja. Družba TSMC je oktobra poročala o prihodkih v višini 586,89 milijarde NT$ (približno 17,88 milijarde USD), kar je 59,7 % več kot leto prej in 14,7 % več kot septembra. TPU in konkurenčni grafični procesorji nastajajo v istih pečeh, zato Googlova pospešitev obseg za $TSM prej povečuje kot preusmerja.

Trg je spremembo postopoma vračunal. Delnice $GOOG so na dan objave zaključile pri 286,01 dolarja, kar je +0,7 %, največji premik pa je prišel v sredo, ko so zrasle za +2,0 % na 290,63, v četrtek so pridobile še 1,6 % na 295,35, v petek pa izgubile 1,0 % in končale pri 292,52. V celotnem tednu je cena delnice zrasla za 3,0 %.

Za $NVDA to ne pomeni izgube stranke - Google Cloud namerava uvesti generacijo Rubin, hkrati pa prodaja konkurenčni silicij. Sprememba je v tem, da bodo imeli največji kupci računske moči od leta 2027 na voljo še eno polnopravno možnost, od česar bosta imela korist tudi $AVGO in $AMD.

Android XR v prodaji: Samsung vstopa na trg očal za 395 dolarjev

Samsung in Google sta 12. novembra odprla prednaročila za prva očala na platformi Android XR. Kolekcija Intelligent Eyewear ponuja tri modele Warby Parker in šest modelov Gentle Monster, skupaj v 30 različicah okvirjev. Prodaja se bo v ZDA in Južni Koreji začela 10. decembra.