Google发布TPU 8i Max与TPU 8tx双系统
Google为第八代TPU新增TPU 8i Max双芯片封装系统，面向超长上下文；TPU 8tx复用TPU 8t硅片并配第五代AMD EPYC主机，主打机密推理。两者均为云系统配置，并非新芯片。
要点
- TPU 8i Max由2颗TPU 8i封装为1颗，计算、SRAM与HBM带宽翻倍。
- TPU 8tx复用TPU 8t硅片，配第五代AMD EPYC主机，称延迟最多降低2倍。
- Google未公布两系统的绝对规格、基准、价格或区域，报道称2027年可用。
- 软件栈更新包括TorchTPU开源、vLLM/SGLang获TPU后端及TPU Sync开源。
- TPU Sync在Ironwood上把Qwen3 235B的KV传输中位延迟从数秒降至约230ms。
阅读原文这里是中文要点整理，数字与细节以原文为准。
评论
还没有评论，来写第一条。