← Главная новостей | Торговый зал

Google TPU 8tx на хостах AMD Turin, а 8i Max удваивает пропускную способность

2026-11-13 · Источник:ServeTheHome

Google TPU 8tx на хостах AMD Turin, а 8i Max удваивает пропускную способность

Google расширяет восьмое поколение TPU: 8tx ориентирована на конфиденциальные вычисления с хостами AMD Turin, а 8i Max в двухчиповом корпусе доводит пропускную способность HBM до 17,2 ТБ/с для инференса с большим контекстом.

Google расширяет линейку TPU восьмого поколения двумя новыми системами — TPU 8tx и TPU 8i Max. Это первый случай, когда в одном поколении компания предлагает четыре различные системные конфигурации (хотя самих новых дизайнов чипов не четыре). TPU 8tx переиспользует существующий чип для конфиденциальных вычислений — это отличная новость для AMD; TPU 8i Max упаковывает два чипа 8i в один модуль и нацелена на инференс с большим контекстом.

TPU 8tx — третья система поколения, предназначенная для регулируемых компаний и государственных структур, которые работают с конфиденциальными данными и запускают передовые или проприетарные модели. Она использует тот же чип, что и обучающая TPU 8t, но в паре с кастомными хост-процессорами AMD EPYC пятого поколения «Turin», перенося безопасность на уровень «железа»: данные шифруются во время использования и изолируются в доверенной среде исполнения, а не только при хранении и передаче. Выбор Turin вполне прагматичен: он соответствует интерфейсу TPU 8t PCIe Gen5 x16; два сокета Turin дают 128 линий Gen5, гарантируя, что четырём TPU и скоростным сетевым картам не грозит дефицит I/O. При переходе на хосты Gen6 (например, AMD EPYC Venice) без увеличения пропускной способности ускорителей интерфейс просто будет работать на скоростях Gen5 — это согласуется с планами Google по допуску «железа» к 2027 году.

В топологии сети 8tx использует Boardfly-топологию инференсной TPU 8i, а не кольцевую топологию обучающих систем: максимальное число хопов снизилось с 16 до 7, и Google заявляет о задержках «до 2 раз ниже, чем у TPU 8t» практически без потери производительности — особенно полезно для многошаговых агентов, выполняющих множество последовательных вызовов инференса. Тем, кому нужно выполнять инференс и обслуживание внутри домена конфиденциальных вычислений, Google рекомендует выбирать именно 8tx.

TPU 8i Max — четвёртая система, нацеленная на «стену памяти»: узкое место, когда множество агентов одновременно обрабатывают целые кодовые базы или многочасовые видео. Она упаковывает два низколатентных чипа TPU 8i в один многокристальный корпус, удваивая вычислительную мощность, SRAM и пропускную способность HBM: 384 ГБ HBM (примерно на треть больше, чем у одиночного 8i), удвоенная до 17,2 ТБ/с пропускная способность HBM и удвоенный до 768 МБ объём SRAM на чипе.

Общий вывод: Google адаптирует TPU под разные звенья ИИ-стека и типы клиентов — 8tx для конфиденциальных вычислений, 8i Max для инференса, а обучающие системы продолжают обслуживать масштабное обучение. Для AMD это заметный дебют EPYC в системах с не-AMD ускорителями и подтверждение доверия гипермасштабных облачных провайдеров к конфиденциальным вычислениям, хотя до серьёзного перераспределения доли серверных CPU дело пока не дошло.


Читайте также


萬安算交所 AIXX · AIXX · Верифицированная биржа · В торговый зал