Ben Bajarin· @BenBajarin · X·· 22 天前AI 评分38
AI 导读
在 OCP 上与 AI 基础设施人士进行了一些有趣的讨论:我们能否尽早实现真正的 scale-up/scale-out 算力域,从而缓解每机架 GPU/XPU 密度的竞赛。 意思是,也许我们不必非要追求单机架约 500 颗 GPU。
AI 生成摘要 · 以原文为准
正文
Some interesting conversations here at OCP with AI infra folks on if we can get to true scale up/out compute domains sooner than later if that alleviates the race to GPU/XPU density per rack.
Meaning maybe we don’t need to try and get to ~500 gpus per rack.
来源:Ben Bajarin · x.com