AI 自己干活跑偏了,谁来管?智能体跑偏怎么办:OpenAI 甩出 5 条铁律,把规矩写进模型底层
OpenAI 重写 Model Spec,用五条核心价值给会自己动手的 AI 智能体排优先级,还配套分层监控,专治「越干越偏」。
大白话OpenAI 更新了自家的 Model Spec,也就是给模型看的「行为守则」。这次围绕五条核心价值重写,重点管的是会自己上网、读文件、调工具、连着干好几步的智能体。以前主要靠事后审核,现在把行为规范提前塞进模型的基础指令里,相当于出门前先立规矩。另外还有一篇技术文章说,OpenAI 用分层监控盯着模型跑偏和智能体越权操作。官方没公布具体条款细节,实际效果还得看 ChatGPT 和 API 里的智能体表现。
对你意味着做智能体、用 API 搭自动化流程的开发者最该看:以后模型遇到「用户说的」「网页里藏的」「平台规定的」打架时,会按这套优先级来选。
打开巨象雷达,看今天全部 AI 动态