4月22日，谷歌发布第八代专用AI芯片TPU（张量管制器）。和此前TPU动作单一居品不同，第八代TPU初度拆分为两款：包含用于模子磨练的TPU 8t，以及为模子推理优化的TPU 8i。

据谷歌先容，TPU 8t提供更高的狡计朦拢量和更强的可彭胀带宽，擅长管制大限度、狡计密集型的磨练责任负载，旨在将前沿模子的成就周期从数月裁减至数周，其性价比上一代居品提高2.7倍。

而TPU 8i专为对延伸高度敏锐的模子推理责任负载想象，将288 GB的HBM（高带宽内存）与384 MB的静态就地存储器（SRAM）市欢，其内存带宽达到TPU 8t的1.3倍，性价比擢升了80%。SRAM是与动态就地存取器（DRAM）相对的两种中枢内存类型，前者的延伸极低但造价贵，后者资本更低、容量大但存取速率相对较慢，HBM也基于DRAM堆叠打造。

智能体哄骗的爆发，是谷歌推进磨练推理芯片诀别的攻击配景。谷歌CEO桑达尔·皮查伊（Sundar Pichai）在一篇博客中闪现，TPU 8i针对推理进行了优化，所搭载的静态就地存储器（SRAM）容量增多了3倍，从而提供了同期驱动数百万个智能体所需的雄伟朦拢量和低延伸。

谷歌推出专用推理芯片，也被外界视为对英伟达的正面挑战。在本年3月的GTC大会上，英伟达发布用于推理的Groq 3 LPX机架，可容纳256颗Groq 3 LPU芯片，专为餍足智能体对低延伸与无数高下文的需求而想象。每颗LPU芯片提供500 MB的SRAM。

英伟达模子推理芯片有野心有进一步的细分。模子推理分为对狡计智商条目高的预填充prefill（管制输入指示）阶段，黑白直播2026世界杯比赛直播以及条目快速内存传输的解码decode（生成输出token）阶段。英伟达的有野心中，Groq 3 LPU芯片风雅解码阶段，而预填充阶段由Vera Rubin GPU承担。

长期以来，AI芯片行业多采用“训推一体”的想象念念路，亦即让一款芯片既能用于模子磨练又用于推理做事。国内头部GPU芯片公司，如摩尔线程、沐曦股份等，均定位于此门道。但“训推诀别”有野心正冉冉成为新的发展标的，并催生了一些尽头聚焦推理场景的芯片公司。

国产推理AI芯片公司曦望Sunrise的交易居品风雅东说念主阎研示意，模子磨练和推理在狡计精度、内存架构、互联样貌等方面存在较大区别，一颗芯片难以兼顾磨练效力与推理的经济性。

据曦望Sunrise先容，公司在2026年1月发布的新一代旗舰居品启望S3推理GPU，搭载LPDDR6内存（第六代低功耗双倍数据速率内存，属于DRAM），而莫得沿用高端磨练GPU的HBM显存门道。公司方面称，大模子推理的一个中枢特征是，在高并发、长高下文的主流云表推理场景中，用于加快推理的KV Cache的显存占比可逾越80%，且随并发用户数线性增长。S3剿袭的LPDDR6有野心，在提供实足推理带宽的同期，大幅提高显存容量上限，以匹配推理场景的中枢需求。

采写：南王人N视频记者 杨柳黑白直播2026世界杯赛事直播入口