你的 AI 助手说「改好了」，可能一个字都没动！AI 智能体四次里有一次在演戏？一套护栏把它当场抓包

大白话有开发者在 Dev.to 写文说，AI 智能体有个很坑的毛病：它不一定是撒谎，而是把「动作」用文字描述得特别像真的——「文件已更新」「稍等，我查一下」，然后就没了。作者说自己做机械性小任务时，大约四次里有一次会这样。光在提示词里加规则没用，因为规则本身就是交给那个负责「编文字」的模型去执行的。他的解法是在模型外面套一层「护栏」：机械步骤交给脚本、声称改了文件就去文件系统核对、只回一句「稍等」就自动重试一次、限定可写目录、重要操作最后必须真人点按钮批准。

对你意味着只要你在用 AI 智能体跑自动化任务，这套「别信它说了什么，去查它做了什么」的思路都能直接抄；尤其是让它改文件、跑脚本的场景。