跳到正文
#GPU
10月21日周三
  4. Ben Bajarin44

    Ben Bajarin 与某主要超大规模云厂商人士交流后表示，GPU 从下单到装机的交付周期一直是 1-2 个季度，受数据中心分阶段集成（staged integration）影响，供应链横跨算力、冷却、电力等环节，管理难度大。所谓“GPU 已订未装、待通电”的担忧不属实，脱离半导体供应链管理实际。他认为 AI 仍处采用周期早期，需要更多算力，需求只会继续上升。

    AI 生成摘要 · 以原文为准

10月20日周二
  2. 晚点 LatePost59

    晚点报道一批三十岁上下的技术人正进入中国核心科技公司的研发决策中心，影响数百名研究员工作和数以亿计的算力投入。案例包括苏剑林提出 Attention Residuals、张宇与 17 岁的陈广宇设计 Block AttnRes 方案，额外开销控制在 5% 以内并带来约 20% 训练效率提升，杨植麟拍板让 K3 推迟开训，四个月后 2.8 万亿参数的 K3 发布。

    AI 生成摘要 · 以原文为准

  5. SemiAnalysis59

    SGLang 合入 megakernel 支持，在 GB300 NVL72 AgentX Harness 上接近每用户 1000 tok/s，MI355X 交互性提升约 1.5 倍，且在 SGLang Docker 镜像中开箱即用。引用的 LMSYS 发布称，SGLang 低延迟模式与 NVIDIA、AMD 合作构建，在 DeepSeek-V4.1-Flash 的 AgentX trace replay 中，NVIDIA GB300 上 P90 每用户 token 速度提升最高 1.38 倍（671 到 928 tok/s），AMD MI355X 上提升 1.56 倍（332 到 516 tok/s）；NVIDIA 端通过 kernel 重叠把解码层时间从 96.8 µs 降至 68.4 µs，AMD 端每层用 2 个 persistent kernel 取代数十个小 kernel，并新增支持外部库自定义 kernel 自动回退的插件系统，GLM-5.3、K3、MiniMax M3 的低延迟 kernel 正在推进。

    AI 生成摘要 · 以原文为准

    引用LMSYS Org@lmsysorg

    Introducing SGLang Low-Latency Mode, built with @NVIDIAAI and @AMD. On DeepSeek-V4.1-Flash with DSpark, it delivers up to 1.38× P90 per-user token speed on NVIDIA GB300 (671 to 928 tok/s) and 1.56× on AMD MI355X (332 to 516 tok/s) in @SemiAnalysis_'s AgentX trace replay. Highlights: - NVIDIA: overlapping kernels cut decoder layer time from 96.8 to 68.4 µs - AMD: 2 persistent kernels per layer replace dozens of small ones, with cross-GPU communication overlapped inside them. - New plugin system: custom kernels plug in from external libraries, with automatic fallback. - Low-latency kernels for GLM-5.3, K3, and MiniMax M3 are in progress and will plug in next.

  6. AMD35

    AMD 🤝 @OracleCloud AMD EPYC™ CPU 与 AMD Instinct™ GPU 携手，为 OCI 上的下一代企业级 AI 与智能体工作流提供算力基础。从企业应用、数据库、分析到生成式 AI、训练与推理，OCI 支持广泛的业务与技术需求；结合分布式云能力，可在公有云、主权云、专属区域、多云与边缘环境部署工作负载。

    AI 生成摘要 · 以原文为准

    引用Oracle Cloud@OracleCloud

    Together, AMD EPYC™ CPUs and AMD Instinct™ GPUs provide the compute foundation for next-generation enterprise AI and agentic workflows on OCI. From enterprise applications, databases, and analytics to generative AI, training, and inference, OCI supports a broad range of business and technology priorities. Combined with OCI’s distributed cloud capabilities, organizations can deploy workloads across public cloud, sovereign cloud, dedicated regions, multicloud, and edge environments. Learn more about our work with @AMD: https://social.ora.cl/6012BHyb3o

10月19日周一
  1. NVIDIA Blog46

    NVIDIA 携手 EBU 与 Adobe Frame.io 推进媒体智能体安全与视频搜索

    NVIDIA 在柏林活动上宣布两项合作：欧洲广播联盟（EBU）与 NVIDIA 扩展面向欧洲公共媒体的主权框架，引入主权云（Microsoft、Nebius）、NVIDIA Nemotron 开放模型和 Qvest 等集成伙伴；Adobe Frame.io 借助 NVIDIA GPU 加速视频语义搜索。GPU 流水线带来约 5 倍嵌入生成提速、最高 4 倍吞吐提升和最高 5 倍延迟降低。

    AI 生成摘要 · 以原文为准

10月18日周日
10月17日周六
  3. ServeTheHome40

    微软 Surface Laptop Ultra 128GB 评测：首发 NVIDIA RTX Spark N1X 的 Arm 旗舰笔记本

    微软发布 Surface Laptop Ultra 评测机，这是微软迄今最直接对标 MacBook Pro 的高端笔记本，也是首批搭载 NVIDIA RTX Spark（GB10 消费版）SoC 的 Windows 笔记本之一。评测样机配备 20 核 N1X、128GB LPDDR5X、1TB PCIe Gen5 SSD、15 英寸 3270×2180 120Hz 触控屏和 92Wh 电池。

    AI 生成摘要 · 以原文为准

  4. ServeTheHome38

    Microsoft Surface Laptop Ultra 评测

    Microsoft 推出搭载 NVIDIA RTX Spark N1X（20 核）的 Surface Laptop Ultra，直接对标 MacBook Pro 的旗舰 Windows-on-Arm 笔记本。评测样机配备 128GB LPDDR5X、1TB PCIe Gen5 SSD、15 英寸 3270×2180 120Hz 触控屏（最高 2000nits）和 92Wh 电池，重 2kg。

    AI 生成摘要 · 以原文为准

  6. SemiAnalysis59

    SemiAnalysis 称其确认多家 Neocloud 因在云服务中增加 AMD GPU、TPU 等芯片而被拒绝参加 GTC Berlin。作者称该限制不适用于议价能力更强的超大规模云厂商，Neocloud 高管认为 NVIDIA 存在不给早期配额、不支持 IPO 或融资等报复手段，部分 Neocloud 开始考虑低调提供 TPU 或 AMD GPU 以规避施压。

    AI 生成摘要 · 以原文为准

    引用SemiAnalysis@SemiAnalysis_

    SHOCKING: Many neocloud executives we spoke with feel that if they have non-NVIDIA networking gear on their cluster, or if their cloud has an AMD GPU or TPU offering, NVIDIA will retaliate. They feel that retaliation includes not giving early allocation or no longer supporting a potential IPO/VC raise.(1/3)🧵

  7. a16z68

    Berkeley 博士生 Woosuk Kwon 2022 年发起的 vLLM 项目已发展为最大的开源推理引擎之一，任何时刻运行在约 50 万块 GPU 上，Google、Amazon 和 Meta 均在生产环境使用。项目从操作系统借来虚拟内存思想按需分配显存；今年 1 月核心维护者创办 Inferact 并融资 1.5 亿美元，为 vLLM 组建全职团队，正在旧金山和新加坡招聘工程。

    AI 生成摘要 · 以原文为准

    关注理由：梳理了 vLLM 从 Berkeley 课题到大规模开源推理引擎的脉络，其虚拟内存方法和 1.5 亿美元融资细节可供了解推理基础设施格局。

10月16日周五
  1. NVIDIA Newsroom66

    NVIDIA RTX Spark 笔记本今日上市，搭载 Blackwell RTX GPU 与 Grace CPU、最高 128GB 统一内存

    NVIDIA 宣布 RTX Spark 笔记本即日起全球上市，由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 发售，起售价 2,599 美元。该产品采用 Blackwell RTX GPU 与 Grace CPU 组成的单芯片，提供最高 128GB 统一内存和 1 petaflop FP4 AI 性能，可本地运行大模型与 AI 智能体、渲染 90GB 以上 3D 场景。

    AI 生成摘要 · 以原文为准

    关注理由：官方发布稿列出了各厂商机型、统一内存与 FP4 性能参数和首发软件支持，可作为跟踪这一新 PC 产品线的基准信息。

  2. NVIDIA Newsroom42

    Mercedes-Benz 与 NVIDIA 扩大战略合作，推进未来十年安全的高度自动驾驶

    Mercedes-Benz 与 NVIDIA 宣布扩大战略合作，联合开发下一代驾驶辅助与自动驾驶系统。合作将 Mercedes-Benz 的汽车工程与 MB.OS 操作系统，与 NVIDIA Hyperion 计算和传感器架构、Alpamayo Stack 全栈驾驶软件及 Halos 安全系统结合，支持先进驾驶辅助及未来 SAE-Level 4 应用（包括 robolimousines）的开发。

    AI 生成摘要 · 以原文为准

  6. Ben Bajarin46

    Intel 这一布局有很多让我感兴趣的点，其中有些战略意义比表面看起来更深。 以下是实物的照片。

    AI 生成摘要 · 以原文为准

    引用Intel Devs@inteldevs

    Hosting an 816B-parameter model on air-cooled hardware? Intel delivers Day 0 support for @Meta's Muse Spark Open using four 160GB Intel GPU D-series cards alongside Intel Xeon processors for flexible, memory-intensive enterprise AI. It is the most capable U.S. open-weights model to date. Learn more: http://ms.spr.ly/6013at3KN

  7. NVIDIA41

    我们也有同感。💚 （引用推文）Elon Musk：老朋友是最好的朋友，Jensen 太棒了。SpaceX 与 NVIDIA 联合设计的 Star Mind 电脑远超几乎所有人的预期，将于明年进入量产。与才华横溢的 NVIDIA 工程团队合作纯粹是一种享受！

    AI 生成摘要 · 以原文为准

    引用Elon Musk@elonmusk

    Old friends are the best friends. Jensen rocks. The Star Mind computer being co-engineered by SpaceX and Nvidia is far better than almost anyone expects and will reach volume production next year. Working with the incredibly talented Nvidia engineering team is pure joy!

  9. NVIDIA Newsroom42

    Adobe 与 NVIDIA 扩大合作，为智能体创作加速

    Adobe 与 NVIDIA 扩大合作，优化 Photoshop、Premiere、Substance 3D、Frame.io 和 Brand Concierge。借助 10 月 16 日发布的 RTX Spark 超级芯片，三款应用实现最高 2 倍的 AI 处理、剪辑、调色与特效提速；Frame.io 的嵌入生成约快 5 倍，P95 处理延迟改善 4-5 倍，搜索代理缩小约 80%。

    AI 生成摘要 · 以原文为准

  10. NVIDIA Newsroom42

    沃尔沃汽车与 NVIDIA 扩大合作，推进安全自动驾驶

    沃尔沃汽车宣布扩大与 NVIDIA 的合作，基于双方始于 2017 年的长期协作，提升未来车型自动驾驶安全性。该技术采用 NVIDIA Hyperion 传感器与计算架构、Halos OS 和 Alpamayo Stack 驾驶软件，覆盖高速、城市街道到泊车的门到门场景，并将逐步引入 eyes-off 和 mind-off 驾驶，首搭于沃尔沃下一代车型。

    AI 生成摘要 · 以原文为准

10月15日周四
  1. NVIDIA Blog65

    NVIDIA 发布开源 Nemotron 3.5 Super VL 与两款 Bolt 边缘模型

    NVIDIA 发布开源 1200 亿参数多模态模型 Nemotron 3.5 Super VL，以及 Nemotron 3.5 Bolt 74B-A9B 24GB 和 Bolt E4B 4GB 两款边缘模型。Super VL 在同类中吞吐最高，官方称比次优快至 5 倍，精度接近 NVIDIA 最大推理模型但参数量约为其五分之一。

    AI 生成摘要 · 以原文为准

    关注理由：官方发布直接给出三款开源模型的参数规模、内存占用、基准表现和可用时间，可据此比较各自定位的智能体部署层级。

  2. SemiAnalysis55

    SemiAnalysis 发文称中国前沿模型已经运行在国产芯片上。其引用 GLM-5 论文原文，称 GLM-5 从第一天起完成面向中国 GPU 生态的全栈适配，优化覆盖从底层 kernel 到上层推理框架，横跨华为昇腾、摩尔线程、海光、寒武纪、昆仑芯、沐曦和燧原七个主流国产芯片平台，并称该模型已在这些国产加速器上服务数月。

    AI 生成摘要 · 以原文为准