跳到正文
a16z· @a16z · X·· 10 天前精选AI 评分69
AI 导读

a16z 发布数据显示,OpenRouter 上 token 需求自去年 11 月以来增长约 27 倍,从每周约 6T 升至约 165T,其中开放权重模型处理的占比从约 28% 升至约 72%。其引用的统计还指出,GPU 租赁价格仍跑在标准 6 年折旧曲线之前,H200 高出 143%、B200 高出 111%、RTX PRO 6000 高出 73%、H100 高出 54%、A100 高出 9%,多数差距在 4 月后 token 需求启动时拉开。

AI 生成摘要 · 以原文为准

关注理由

把 OpenRouter token 需求增长与各代 GPU 租赁价格相对折旧曲线的偏离并列,可用于理解算力租赁供需背后的需求端信号。

正文 · 原文

One answer to what's driving GPU rental prices:

Token demand on OpenRouter is up ~27x since last November, from ~6T/week to ~165T/week

Open-weight models now handle ~72% of those tokens, up from ~28% last November

Charts of the Week: https://www.a16z.news/p/charts-of-the-week-attention-is-all

引用a16z@a16z
Zooming out, GPUs are still renting ahead of a standard 6-year depreciation schedule Rental price vs. schedule: - H200: +143% - B200: +111% - RTX PRO 6000: +73% - H100: +54% - A100: +9% Most of the gap opened up after April, when token demand took off Charts of the Week: https://www.a16z.news/p/charts-of-the-week-attention-is-all
在 X 查看被引用的帖子

来源:a16z · x.com