热点事件持续更新

vLLM与SGLang首日支持Kimi模型覆盖AMD、NVIDIA、TPU等多种芯片

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

vLLM 与 SGLang 在 Kimi（月之暗面）模型发布当日即宣布支持（Day 0 支持），覆盖 AMD、NVIDIA、Rubin 和 TPU 等多种硬件。其中 SGLang 还额外提供了对 AWS Trainium 2/3 的首日支持。

AI 生成摘要 · 以原文为准

AI 根据报道生成 · 2 小时前更新

最新进展11月5日 03:51

沿着报道，了解事件的不同侧面。

11月5日

03:51
X · SemiAnalysis
vLLM 与 SGLang 首日支持 Kimi 多芯片
恭喜 @vllm_project 和 @sgl_project 在 AMD、NVIDIA、Rubin 和 TPU 上实现 Day 0 的 @Kimi_Moonshot 支持！有趣的是，SGLang 还对 Trainium 2/3 提供了 Day 0 支持！

还没有足够的连续观测数据，暂不绘制趋势。