跳到正文
10月24日周六
  1. SemiAnalysis71

    SemiAnalysis 实测 Trainium3 PyTorch 训练栈:原生 PyTorch 体验大幅改善但编译仍慢

    SemiAnalysis 实测 Trainium3 与 TorchNeuron 栈,认为 AWS 转向原生 PyTorch(eager 模式、torch.compile、标准分布式 API)会明显扩大 Trainium3 在研究训练场景的采用。团队在 16 颗 Trainium2 芯片上用 TorchTitan 训练 Qwen3-32B,eager 模式吞吐 11,099 tokens/秒。

    AI 生成摘要 · 以原文为准

  2. a16z62

    a16z 发布 Amazon CEO Andy Jassy 访谈,Jassy 称 AI 需求呈杠铃结构:一端是大量消耗算力的 AI 实验室和 ChatGPT、Claude Code 等少数爆款应用,另一端是用 AI 做成本规避和企业流程自动化的企业,中间的企业生产工作负载才是未来最大的 AI 使用段。他认为推理成本虽已明显下降。

    AI 生成摘要 · 以原文为准

    引用a16z@a16z

    安迪·贾西(Andy Jassy)担任 CEO 五年来,AWS 规模几乎扩大至三倍,亚马逊营收增长约 80%,并计划今年投入 2200 亿美元以赢得 AI 竞赛。亚马逊的 AI 业务在三年内达到 250 亿美元的年化收入,增速是早期 AWS 的数百倍。 贾西做客 a16z 的 Ben Horowitz 和 Erik Torenberg 的节目,畅谈这一历程背后的决策:从疫情后重建亚马逊的履约网络,到 AWS 的起源故事。 他们还探讨了:数据中心为何成为政治斗争焦点、亚马逊的自研芯片、对 Anthropic 和 OpenAI 的投资、推理成本为何需要降低 10 倍、AI 最被低估的风险、为何每家公司都必须从零开始重塑产品,以及贾西给当今 18 岁年轻人的建议。 0:47 2021 年以来亚马逊的变化 1:51 疫情如何重塑零售业 3:30 AI 为何为 AWS 增长注入超级动力 5:20 领导力原则冲突时怎么办 9:36 6000 万美元 vs. 250 亿美元:早期 AWS 与早期 AI 13:20 AI 资本支出的现金循环如何运作 15:44 美国为何必须建设数据中心 20:55 从实验室到企业的 AI 哑铃模式 23:12 需求增长 vs. AWS 老客户 28:11 Annapurna、Graviton 与 Trainium 33:55 押注 Anthropic 和 OpenAI 37:15 为何 AI 意味着更小的团队 42:13 AI 被低估的风险:安全 46:29 亚马逊为何重构 Alexa 的大脑 53:07 贾西如何跟孩子谈 AI 56:36 押注 AI、机器人与太空 YouTube: https://youtu.be/-YMMRQ1qscI @ajassy @Amazon @bhorowitz @eriktorenberg

10月17日周六
9月24日周四
  1. SemiAnalysis69

    SemiAnalysis 发布 ClusterMAX 3.0 GPU 云评测:77 家厂商分级,Nebius 升入铂金级

    SemiAnalysis 发布 ClusterMAX 3.0 GPU 云评测,覆盖 77 家被测厂商、323 家市场观察对象(上一版为 209 家),并采访了 200 多位终端用户。Nebius 加入 CoreWeave 位列铂金级,Google Cloud 与 Oracle 列黄金级,Azure 降至白银级,Fluidstack 转为 Unavailable,Crusoe 降至青铜级。

    AI 生成摘要 · 以原文为准