🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
Dev.to2026-11-05 08:10AI 生成

AI 越来越便宜,靠的可能不是英伟达!不拆英伟达也能省?超微开卖 SambaNova 推理机柜,聊天机器人成本要被打下来

超微把 SambaNova 的 SN50 芯片做成整机柜塞进自家产品目录,主打和现有英伟达 GPU 集群并排跑推理,而不是替换它们。

大白话训练大模型像上学,推理才是天天上班干活。现在数据中心最烧钱的部分,正从训练转向推理——每次用户发一句话,背后都要算一次。SambaNova 说自家的 SN50 芯片会做成专门的推理机柜,由超微组装销售,卖点是不用拆掉现有的英伟达 GPU 集群,直接加一排机柜分担日常问答流量。对数据中心来说,这意味着可以按需多买便宜的推理算力,而不必为了应付高峰再囤一堆昂贵的训练卡。
对你意味着和你有关的地方在于:聊天机器人、AI 助手的响应速度和免费额度,背后都是推理成本。推理硬件越便宜,厂商越有可能把价格打下来。

原文:Supermicro Sells SambaNova Servers For Cheaper Chatbot Replies

打开巨象雷达,看今天全部 AI 动态