Google ніколи не продаватиме TPU. Щойно Google почне продавати ТПУ у великих масштабах, вони перетворюють свою архітектурну перевагу на товар. Внутрішні команди Google мають першорядні претензії на потужність TPU, оскільки ці навантаження безпосередньо приносять дохід і стратегічні обмеження. Будь-який TPU, проданий зовні, є TPU, який не використовується для захисту основних прибуткових двигунів Google. Наразі TPU — це власна вертикальна інтеграція Google, яка дозволяє їм керувати інфраструктурою ШІ за ціною, яку конкуренти не можуть зрівняти. DeepMind може витратити бюджети на обчислення, які збанкрутували б OpenAI, бо Google не платить роздрібні ціни на GPU, а платить за внутрішньою граничною вартістю TPU. Якщо Google почне продавати TPU зовні: - Вони мають встановлювати ціни конкурентно порівняно з GPU Nvidia, що означає розкриття їхньої структури витрат. Раптом усі розуміють, що справжні витрати Google на обчислення штучного інтелекту — це не магія. - Продаж ТПУ з голим металом означає публікацію детальних характеристик, бенчмарків продуктивності та інтерфейсів програмування. Це дає конкурентам план того, як «Google насправді реалізує ШІ у масштабі». Наразі це власницька справа. Як тільки це стає продуктом, його вивчають, реверс-інжинирингують і зрештою відтворюють. - Google Cloud вже продає доступ до TPU через GCP за преміальними цінами. Якщо вони почнуть продавати лише порожні TPU, вони конкуруватимуть зі своєю власною хмарною пропозицією з вищою маржею. Жоден досвідчений покупець не заплатив би націнку GCP, коли міг би купити TPU напряму і зробити їх дешевше. Ціноутворення GCP TPU не є агресивним у порівнянні з альтернативами GPU, але є преміальним. Це не некомпетентність, це навмисно спрямовано, щоб відлякати масове зовнішнє впровадження. Google надає TPU достатньо доступними, щоб уникнути звинувачень у «накопиченні інфраструктури» антимонопольного права та залучити частину високомаржинального хмарного доходу, але насправді вони не хочуть, щоб зовнішні клієнти споживали потужність у великому масштабі. Порівняйте це з AWS, яка продає всі можливі чипи (Graviton, Trainium, Inferentia), оскільки AWS — це бізнес із сировинної інфраструктури. Основний бізнес Google — це реклама та споживчі продукти, які залежать від інфраструктури ШІ. Продаж інфраструктури — це як продаж ланцюга постачання McDonald's Burger King, навіть якщо це приносить дохід, ви посилюєте конкурентів і послаблюєте свій основний бізнес. Ви не можете одночасно бути постачальником стандартних чипів І одночасно підтримувати перевагу власної інфраструктури. Як тільки продаєш, ти робиш товар. Як тільки ви перетворюєтеся на товар, ваша перевага зникає. Враховуючи, що продаж TPU здається стратегічно недоцільним, чому існують припущення, що Google взагалі цим займається? Думаю, тому що хмарні підрозділи в кожному гіперскейлері мають постійну тривогу «нам потрібна диференціація», а кастомні чіпи виглядають як диференціація. Але диференціація має значення лише тоді, коли вона захищає маржу або захоплює частку, не руйнуючи ваш основний бізнес. Продаж TPU у Google — це диференціація, яка знищує більше цінності, ніж створює.

Nvidia заплатила вересневу оцінку 3X Groq, щоб придбати його. Це стратегічно ядерна стратегія. Кожна лабораторія ШІ залежала від GPU, що створювало величезний ризик концентрації. Google звільнився від використання TPU для внутрішнього використання, довівши, що наратив «Nvidia або нічого» був хибним. Це не лише продемонструвало технічну доцільність, а й показало, що рів Nvidia був менш мілким, ніж вважали ринки. Коли гіперскейлер успішно створює власний кремній, кожен досвідчений покупець починає робити розрахунки «чи варто будувати власні?» Це знижує TAM від Nvidia. Джонатан Росс (засновник Groq) є винахідником TPU. Він розумів архітектурні принципи, які робили прискорення штучного інтелекту без GPU життєздатним. Його архітектура LPU була орієнтована на навантаження на виведення даних, де GPU насправді надмірно інженерні. Це важливо, бо виведення — це те, де реальні гроші знаходяться в довгостроковій перспективі. Навчання — це одноразова капітальна витрата, але інференція — це повторюваний операційний обсяг, який масштабується залежно від використання. Якби Groq довів, що LPU можуть досягати конкурентної ціни та ефективності на основі виведення, кожен хмарний провайдер зазначив би свою архітектуру білим ярликом. Nvidia буде затиснута до «просто навчання», втрачаючи ануїтетний потік. Можна з упевненістю розглядати цю угоду як страхування Nvidia від Groq, що відкриває цілу екосистему альтернатив Nvidia. Але ще цікавіше — це ефект другого порядку — захоплення клієнтами. Зараз Nvidia володіє як існуючим стандартом (CUDA + GPU), так і найнадійнішою альтернативною архітектурою (LPU). Це MSFT купує стратегію рівня Github. Будь-яка лабораторія ШІ, яка оцінює «build vs buy vs alternative vendor», тепер стикається: - Варіант A (GPU Nvidia) - Варіант B (Nvidia <> Groq LPU) - Варіант C (почати з нуля) Перетворюючи конкурентну загрозу на інструмент сегментації клієнтів, Дженсен є майстром ремесла. Тепер вони можуть дискримінувати ціну: преміальні клієнти платять за GPU, ціночутливі висновки передаються LPU, а Nvidia захоплює обидва варіанти. Якщо Nvidia не інтегрує LPU у свою дорожню карту, це був чистий захисний хід. Якщо вони все ж інтегрують і почнуть пропонувати пакети «GPU для навчання, LPU для виведення», це стане класичним придбанням, що розширює рів. Найдорожче в технологіях — це не будувати майбутнє, а заважати комусь іншому побудувати майбутнє без вас.

Топові коментарі — це теж боти. Штучний інтелект буквально захоплює владу.