Groq 传评估下一代 AI 芯片从 SRAM 转向 3D 堆叠 DRAM

据 ZDNet 援引行业人士消息，已将推理技术授权给 NVIDIA 的 Groq 正考虑在下一代芯片中用 3D 堆叠 DRAM（3DS）取代其以 SRAM 为中心的设计，以大幅提升片上内存容量；3DS 与 HBM 同样使用 TSV 垂直连接 DRAM 裸片，但 HBM 侧重传输速度，3DS 则在保留传统 DRAM 接口的同时提升容量。现有 Groq 3 LPX 每个 LPU 集成 500MB SRAM、150TB/s 片上带宽，整柜 256 颗 LPU 合计 128GB SRAM 与 40PB/s 带宽，并配 12TB DDR5。文中还引用 d-Matrix CEO 说法称 SRAM 容量每两年仅增约 10–20%，而 AI 模型规模可能每 6–9 个月翻倍；Cerebras 未来的 CS-6 系统也计划将堆叠 DRAM 与晶圆级 SRAM 及计算整合。

AI 生成摘要 · 以原文为准