🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
Dev.to2026-11-05 12:31AI 生成

你点的那个「批准」,可能什么都没拦住!点个「批准」就算人类把关?开发者戳穿 AI 智能体审批按钮的假安全

Dev.to 一篇热文指出:只给审批者看「要不要执行」这一个按钮,根本挡不住提示注入,因为智能体出错往往发生在最后一步工具调用之前。

大白话文章举了个采购智能体的例子:它收到一封邮件要求改供应商收款账号,查了下记录,然后弹出一个「批准/拒绝」按钮。看着像有人把关,其实审批的人根本不知道这封邮件是不是授权联系人发的、供应商记录有没有核验过、智能体中途有没有被别的指令带偏。作者说,真正该给的不是一个按钮,而是一份「审批包」:这次想干什么、是哪个智能体哪个流程发起的、依据了哪些邮件和文档、查过改过哪些系统、哪条规则放行、批准后会发生什么、能不能撤回。
对你意味着只要你在公司里给 AI 智能体配过「人工确认」这一步,或者正准备上自动化流程,这篇都值得看一眼——按钮不等于控制。

Dev.to 开发者社区文章观点,作者为 AXEC,属厂商技术博客性质,非官方标准

原文:A Human Approval Button Is Not a Security Control

打开巨象雷达,看今天全部 AI 动态