150 瓦就能跑大模型,这卡什么来头?128GB 显存只吃 150W:高通这张推理卡被网友吐槽「两年前的配置」
高通 Cloud AI 100 Ultra 主打 150W 功耗、128GB 内存、548GB/s 带宽,HN 讨论区却吵成两派:有人嫌规格过时,有人说便宜才是刚需。
大白话高通官网挂出一张数据中心 AI 加速卡 Cloud AI 100 Ultra,功耗只有 150W,塞了 128GB 内存,带宽 548GB/s。Hacker News 上有人把它和苹果 M 系列芯片比:算力标称 800 TOPS,是 M6 传闻值的近 10 倍,但带宽低不少。也有人指出这芯片 2024 年就发布了,现在才被翻出来讨论。至于价格,官网没给明确数字,楼里有人调侃「一美分」。
对你意味着想在自己机器或小团队里跑本地大模型的人可以关注:低功耗大内存正是本地推理的痛点,但带宽和实际持续负载表现还得看实测。
产品规格来自高通官网,价格与性能对比为 Hacker News 网友讨论,官方未证实
原文:Qualcomm Cloud AI 100 Ultra – 150W AI Accelerator Card with 128GB at 548GB/s
打开巨象雷达,看今天全部 AI 动态