奥尔特曼谈本地推理的资源取舍
先了解这件事
AI 综述
2026年10月30日，Rohan Paul在X上转述山姆·奥尔特曼对本地推理的看法。奥尔特曼从全球资源分配角度指出，让每个人把全球有限DRAM供应中的一大批配置到自己的电脑上，而设备仅有5%的时间在使用，“非常糟糕”。该报道还称，按每个token计算，数据中心轻松胜出；batch size为1的本地模型按任何利用率指标衡量都是浪费，并且是整个技术栈中唯一无人能对其弃用的部分。
报道时间线
10月30日
- 山姆·奥尔特曼谈本地推理的取舍
山姆·奥尔特曼谈本地推理。 “从全球资源分配的角度看，让每个人——也就是把全球有限 DRAM 供应中的一大批——放在自己的电脑上，而且只有 5% 的时间在使用，这非常糟糕” 按每个 token 计算，数据中心轻松胜出。batch size 为 1 的本地模型，按任何利用率指标衡量都是浪费；而且，它也是整个技术栈中唯一没人能对你弃用的部分。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。