🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
Techmeme2026-10-31 14:10AI 生成

只用 5%,他说内存放 PC 太亏!你的电脑装大内存是浪费?奥特曼直言内存塞进 PC 只用 5% 太亏

奥特曼谈本地推理时称,内存供应紧张,与其让内存躺在个人电脑里闲置、只被用到 5%,不如集中放进数据中心。

大白话有人问:既然模型能跑在本地,为什么不多给个人电脑塞内存?奥特曼的回答很直接:现在内存本身就供不应求,一台电脑里的内存大部分时间闲着,利用率可能只有 5%,而放进数据中心能被大量用户持续调用。换句话说,他认为同样的内存放在机房更划算。这话对喜欢本地跑模型的人不太友好,但也点出了现实:内存贵、产能紧,谁用得多谁先拿。
对你意味着关心本地部署大模型、想攒机器跑 AI 的人要留意:厂商的资源优先级明显偏向云端,短期内本地推理的硬件成本难降。

原文:When talking about local inference, Sam Altman says supply-constrained DRAM is better used in data centers than sitting in PCs and "being used 5% of the time" (Andrew E. Freedman/Tom's Hardware)

打开巨象雷达,看今天全部 AI 动态