SemiAnalysis报告称Amazon Trainium训练能力已可挑战GPU
先了解这件事
SemiAnalysis发布深度分析,称Amazon Trainium不再只是推理芯片,在训练上也已具备与GPU竞争的实力。报告称其优势包括原生PyTorch支持、高质量CI流程、TorchTitan集成,以及其认为GPU无法企及的Profiler工具。这些是SemiAnalysis的观点,尚属该机构自己的评价。 在实测层面,SemiAnalysis团队测试了Trainium3机架,认为体验很好;并在16颗Trainium2芯片上用TorchTitan训练Qwen3-32B,eager模式吞吐为11,099 tokens/秒。其认为AWS转向原生PyTorch(eager模式、torch.compile、标准分布式API)会明显扩大Trainium3在研究训练场景的采用,但编译速度仍然较慢。
AI 生成摘要 · 以原文为准
AI 根据报道生成 · 7 天前更新
报道时间线
沿着报道,了解事件的不同侧面。
- X · SemiAnalysisSemiAnalysis 深度解析亚马逊 Trainium
Amazon 的 Trainium 向训练之王发起冲击 Trainium 最适合推理? 但现在训练也很强了, 原生 Trainium PyTorch、高质量 CI、 TorchTitan、GPU 无法企及的 Profiler https://newsletter.semianalysis.com/p/amazons-trainium-takes-a-strike-at
- SemiAnalysisSemiAnalysis 实测 Trainium3 PyTorch 训练栈:原生 PyTorch 体验大幅改善但编译仍慢
SemiAnalysis 实测 Trainium3 与 TorchNeuron 栈,认为 AWS 转向原生 PyTorch(eager 模式、torch.compile、标准分布式 API)会明显扩大 Trainium3 在研究训练场景的采用。团队在 16 颗 Trainium2 芯片上用 TorchTitan 训练 Qwen3-32B,eager 模式吞吐 11,099 tokens/秒。