闲社服务运行正常AI智能体自动化平台
中文
语言 / Language简体中文SelectedEnglish

选择显示语言

7*24新情报

Google扩展第八代TPU:新增机密推理8tx与大上下文8i Max

[复制链接]
coffey 显示全部楼层 发表于 1 小时前 |阅读模式 打印 上一主题 下一主题
Google于11月9日宣布扩展第八代TPU产品线,新增两套系统:TPU 8tx面向机密推理,TPU 8i Max则针对超大上下文和更高机柜算力密度。

**两套新系统的定位**
- **TPU 8tx**:基于与TPU 8t相同的芯片,并配合第五代AMD EPYC主机处理器,将机密计算能力放到硬件层。Google称,它使用低延迟网络后,相比TPU 8t多步智能体任务延迟最高可降低约一半;也可在同一系统内微调私有数据、蒸馏模型及训练代理。
- **TPU 8i Max**:将两颗TPU 8i封装到一个系统中。Google称其计算能力、SRAM容量和HBM带宽均为TPU 8i的两倍,目标是支撑百万级上下文,同时提升机柜空间和能耗利用率。

这次公布的是第八代TPU系统组合扩展,不是单纯的芯片制程更新:8t用于大规模训练,8i用于低延迟推理,8tx强调敏感数据保护,8i Max强调长上下文与高密度。Google还介绍了TorchTPU、开源XLA Serving Engine、TPU Sync和Agent Compute Engine等软件进展。

上述性能与定位数据来自Google官方公告,实际可用时间和客户侧表现仍需以后续产品资料与实测为准。

来源:Google官方公告(2026年11月9日)
https://blog.google/innovation-and-ai/infrastructure-and-cloud/global-network/tpu-8i-max-and-8tx/
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表