🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
Microsoft 开发者官网2026-11-05 22:00AI 生成

你的代码,可能一直在往云端跑!代码一行不出本机!微软让 27B 编程模型在 24G 显卡上本地狂跑,还直连 Copilot

微软 Foundry Local 把 Qwen3.8-27B 塞进本地显卡,4-bit 量化后约 18GB,官方称长上下文生成速度全面压过 llama.cpp,还能用 BYOK 接进 GitHub Copilot。

大白话微软在开发者博客里介绍,Foundry Local 现在能让你在自己电脑上跑编程智能体:模型选的是 Qwen3.8-27B,用 4-bit 量化后体积约 18GB,24GB 显存的消费级显卡就能跑。跑起来之后,可以通过「自带密钥」(BYOK)的方式接进 GitHub Copilot,当成本地模型来写代码。好处很直白:代码和上下文不出本机、断网也能干活、推理成本可预测,不用一直给云端按量付费。官方还拿它和 llama.cpp 在同一张卡上比了生成速度,称各档提示长度都更快,超过 13 万 token 后差距拉大。
对你意味着对天天用 AI 写代码、又担心代码外泄或云端账单的开发者来说,这是一条「把模型搬回自己机器」的现成路径;前提是你得有 24GB 以上显存的 N 卡。

原文:Bring Agentic Coding On-Device with Foundry Local

打开巨象雷达,看今天全部 AI 动态