2026-11-09,Google Cloud发布TPU 8tx与TPU 8i Max系统信息。8tx沿用TPU 8t芯片并搭配第五代AMD EPYC主机,重点加入对运行中模型权重和数据的硬件级隔离,目标是把机密计算用于更敏感的训练与推理工作负载。

Google称8tx相对8t最高可降低两倍延迟,且隔离带来的性能损失接近零;这些数字来自厂商内部测试,正文没有给出完整模型、批量、软件版本和区域条件,不能与第三方基准直接混用。

8i Max则把两颗8i组合在单一封装中,计算能力、SRAM容量与HBM带宽均为单颗8i的两倍,面向超长上下文和高机架密度。同期软件包括预览版TPU agent suite、开源TPU Sync和XLA Serving Engine;官方称TPU Sync可把KV传输延迟与TTFT降低超过90%。

Cloud Pathways与GKE动态切片被明确标为GA,但发布文没有说明8tx和8i Max的订购方式、区域、配额或GA日期。因此更准确的状态是系统发布与能力披露,而不是“全球已可购买”;采购者仍需等待产品目录和合同条件。

量仔观察

这次更新对需要机密模型托管、长上下文和高密度推理的云架构团队有实质参考。核心发布为E3官方证据,性能为单方自测且可用性信息不完整。读者可先评估隔离需求和软件栈兼容,不宜据峰值数字直接换算成本;下一观察点是区域价格、配额、独立基准及8tx隔离威胁模型。