只用 5%,他说内存放 PC 太亏!你的电脑装大内存是浪费?奥特曼直言内存塞进 PC 只用 5% 太亏
奥特曼谈本地推理时称,内存供应紧张,与其让内存躺在个人电脑里闲置、只被用到 5%,不如集中放进数据中心。
大白话有人问:既然模型能跑在本地,为什么不多给个人电脑塞内存?奥特曼的回答很直接:现在内存本身就供不应求,一台电脑里的内存大部分时间闲着,利用率可能只有 5%,而放进数据中心能被大量用户持续调用。换句话说,他认为同样的内存放在机房更划算。这话对喜欢本地跑模型的人不太友好,但也点出了现实:内存贵、产能紧,谁用得多谁先拿。
对你意味着关心本地部署大模型、想攒机器跑 AI 的人要留意:厂商的资源优先级明显偏向云端,短期内本地推理的硬件成本难降。
打开巨象雷达,看今天全部 AI 动态