跳到正文
SemiAnalysis· Kimbo Chen·· 11 天前AI 评分71

SemiAnalysis 实测 Trainium3 PyTorch 训练栈:原生 PyTorch 体验大幅改善但编译仍慢

Amazon’s Trainium Takes a Strike at the Training King

AI 导读

SemiAnalysis 实测 Trainium3 与 TorchNeuron 栈,认为 AWS 转向原生 PyTorch(eager 模式、torch.compile、标准分布式 API)会明显扩大 Trainium3 在研究训练场景的采用。团队在 16 颗 Trainium2 芯片上用 TorchTitan 训练 Qwen3-32B,eager 模式吞吐 11,099 tokens/秒。

AI 生成摘要 · 以原文为准

来源:SemiAnalysis · newsletter.semianalysis.com