🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
AWS 官网2026-11-03 01:01AI 生成

大模型跑一遍,小模型照着学,账单直接砍下来!智能体每单烧掉几十次调用?AWS 教你把大模型行为蒸馏进小模型省钱

AWS 官方博客给出方案:用前沿大模型当老师生成完整任务轨迹,只留跑通的那些,再拿小模型做监督微调,成本速度双降。

大白话一个购物助手看着只回答一句话,背后其实是一串循环:搜商品、读结果、筛条件、核对、最后给结论,每一步都是一次单独计费的大模型调用,每个顾客都这么烧。AWS 这篇博客说,可以让大模型先跑一遍,把成功完成任务的完整过程(包括中间怎么想、调了什么工具、看到什么结果)记下来,再拿这些记录去训练一个小模型。小模型学的是整套做事流程,不只是最终答案,所以速度和成本都下来了,质量还能保住大半。
对你意味着做 AI 智能体、被 API 账单劝退的团队都该看,尤其是任务流程固定、调用量大的场景。

原文:Build efficient agents with knowledge distillation on Amazon SageMaker AI

打开巨象雷达,看今天全部 AI 动态