用户不该拥有自己的模型,这话有点狠!内存放你桌上就是浪费?Altman 一句话把本地跑模型判了死刑
Altman 在采访中称,稀缺的 DRAM 与其「躺在你桌上」,不如集中到数据中心统一调度,本地推理被他说成低效浪费。
大白话简单说,Altman 的意思是:跑大模型最吃内存,而现在内存芯片本来就紧张,与其让成千上万台个人电脑各自囤着内存、大部分时间闲着,不如都堆到云数据中心里统一排队用,利用率更高。他还顺带表达了「用户不该自己拥有模型」的立场。这话正好撞上这两年本地跑开源模型、AI PC 越来越火的趋势,所以争议很大。
对你意味着如果你在本地跑开源模型、或者正打算买台 AI PC,这套说法等于在质疑你的路线;对做云端推理生意的公司则是利好。
据 Dev.to 转述 The Verge 采访内容,属媒体转述,具体原话以采访原文为准
原文:OpenAI Boss Sam Altman Says AI On Your PC Wastes Precious Memory
打开巨象雷达,看今天全部 AI 动态