Google zal nooit TPU's verkopen. Op het moment dat Google TPU's op grote schaal verkoopt, transformeren ze hun architectonisch voordeel in een commodity. De interne teams van Google hebben eerste-orde claims op TPU-capaciteit omdat die workloads direct inkomsten en strategische verdedigingslinies genereren. Elke TPU die extern wordt verkocht, is een TPU die niet wordt gebruikt om de primaire winstmotoren van Google te verdedigen. Op dit moment zijn TPU's het exclusieve voordeel van Google, verticale integratie die hen in staat stelt AI-infrastructuur te opereren tegen kosten die concurrenten niet kunnen evenaren. DeepMind kan door rekenbudgetten heen branden die OpenAI failliet zouden maken omdat Google geen detailhandel GPU-prijzen betaalt, ze betalen de interne marginale kosten van TPU's. Als Google begint met het verkopen van TPU's aan derden: - Ze moeten concurrerend prijzen ten opzichte van Nvidia GPU's, wat betekent dat ze hun kostenstructuur moeten onthullen. Plotseling weet iedereen dat de werkelijke AI-rekenkosten van Google geen magie zijn. - Het verkopen van bare metal TPU's betekent het publiceren van gedetailleerde specificaties, prestatiebenchmarks en programmeerinterfaces. Dit geeft concurrenten een blauwdruk voor "hoe Google AI daadwerkelijk op schaal doet." Op dit moment is dat eigendom. Op het moment dat het een product wordt, wordt het bestudeerd, omgekeerd ontworpen en uiteindelijk gerepliceerd. - Google Cloud verkoopt al TPU-toegang via GCP tegen premiumprijzen. Als ze bare TPU's gaan verkopen, concurreren ze met hun eigen cloudaanbod met hogere marges. Geen enkele geavanceerde koper zou de GCP-toeslag betalen als ze TPU's rechtstreeks kunnen kopen en ze goedkoper kunnen draaien. De GCP TPU-prijzen zijn niet agressief in vergelijking met GPU-alternatieven, maar ze zijn premium. Dit is geen incompetentie, het is opzettelijk geprijsd om massale externe adoptie te ontmoedigen. Google maakt TPU's voldoende beschikbaar om antitrustbeschuldigingen van "infrastructuur hamsteren" te vermijden en om wat hoge-marge cloudinkomsten te genereren, maar ze willen eigenlijk niet dat externe klanten capaciteit op grote schaal verbruiken. Vergelijk dit met AWS, dat elke chip verkoopt die ze kunnen produceren (Graviton, Trainium, Inferentia) omdat AWS een commodity-infrastructuurbedrijf is. De kernactiviteit van Google zijn advertenties en consumentenproducten die afhankelijk zijn van AI-infrastructuur. Het verkopen van de infrastructuur is als McDonald's die hun toeleveringsketen aan Burger King verkoopt, zelfs als het inkomsten genereert, versterk je concurrenten en verzwak je je primaire bedrijf. Je kunt niet tegelijkertijd een commodity chipverkoper zijn EN een eigendomsvoordeel in de infrastructuur behouden. Op het moment dat je verkoopt, commoditiseer je. Op het moment dat je commoditiseert, verdwijnt je voordeel. Gezien het feit dat het verkopen van TPU's strategisch ongunstig lijkt, waarom is er dan speculatie dat Google het toch nastreeft? Ik denk omdat clouddivisies bij elke hyperscaler een voortdurende "we hebben differentiatie nodig"-angst hebben, en aangepaste chips lijken op differentiatie. Maar differentiatie is alleen belangrijk als het marges beschermt of marktaandeel verwerft zonder je kernactiviteit te vernietigen. Google die TPU's verkoopt zou differentiatie zijn die meer waarde vernietigt dan het creëert.

Nvidia betaalde 3X de waardering van Groq in september om het over te nemen. Dit is strategisch nucleair. Elk AI-laboratorium was afhankelijk van GPU's, wat enorme concentratierisico's creëerde. Google brak vrij met TPU's voor intern gebruik, waarmee het bewees dat het "Nvidia of niets"-narratief onjuist was. Dit toonde niet alleen technische haalbaarheid aan, het onthulde ook dat de verdedigingslinie van Nvidia minder diep was dan de markten geloofden. Wanneer een hyperscaler met succes aangepaste silicium bouwt, begint elke geavanceerde koper te rekenen: "moeten we onze eigen bouwen?" Dit verlaagt de TAM van Nvidia. Jonathan Ross (de oprichter van Groq) is de uitvinder van TPU. Hij begreep de architectonische principes die niet-GPU AI-versnelling levensvatbaar maakten. Zijn LPU-architectuur richtte zich op inferentiewerkbelasting waar GPU's eigenlijk over-engineered zijn. Dit is belangrijk omdat inferentie de echte lange termijn winst is. Training is een eenmalige capex, maar inferentie is terugkerende opex die schaalt met gebruik. Als Groq kon bewijzen dat LPU's competitieve prijs-prestaties op inferentie konden behalen, zou elke cloudprovider hun architectuur white-labelen. Nvidia zou worden samengedrukt tot "alleen training" terwijl het de annuïteitenstroom verliest. Het is veilig om deze deal te zien als Nvidia die zich indekt tegen Groq die een heel ecosysteem van Nvidia-alternatieven mogelijk maakt. Maar wat interessanter is, is het tweede-orde effect, de klantlock-ins. Nu bezit Nvidia zowel de gevestigde standaard (CUDA + GPU) als de meest geloofwaardige alternatieve architectuur (LPU's). Dit is strategisch op het niveau van MSFT die Github koopt. Elk AI-laboratorium dat "bouwen versus kopen versus alternatieve leverancier" evalueert, staat nu voor: - Optie A (Nvidia GPU's) - Optie B (Nvidia <> Groq LPU's) - Optie C (van scratch beginnen) Een concurrentiebedreiging omzetten in een klantsegmentatietool, Jensen is de meester van de handel. Ze kunnen nu prijsdiscrimineren: premium klanten betalen voor GPU's, prijsgevoelige inferentie wordt geleid naar LPU's, en Nvidia vangt beide. Als Nvidia LPU's niet in zijn roadmap integreert, was dit een puur defensieve zet. Als ze het wel integreren en beginnen met het aanbieden van "GPU voor training, LPU voor inferentie" bundels, wordt dit een tekstboekvoorbeeld van een verdedigingslinie-verbreder acquisitie. Het duurste in technologie is niet de toekomst bouwen, het is voorkomen dat iemand anders een toekomst zonder jou bouwt.

topcommentaren zijn ook bots. AI neemt letterlijk de overhand.