跳到正文
SemiAnalysis· @SemiAnalysis_ · X·· 12 天前AI 评分41
AI 导读

突发新闻🚨:RUBIN NVL72 在 agentic 工作负载下运行 GLM5.3 744B 达到 862 tok/s/user! 不到 8 天,NVIDIA 通过低延迟专用内核将 Rubin 的交互性提升了近 2 倍。

AI 生成摘要 · 以原文为准

正文

BREAKING NEWS🚨: RUBIN NVL72 HITS 862 tok/s/user on GLM5.3 744B on agentic workloads!

In less than 8 days, NVIDIA has increased interactivity on Rubin by close to 2x through low-latency specialized kernels.

来源:SemiAnalysis · x.com