🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
Dev.to2026-11-04 21:23AI 生成

141006 次测试,3 起事故,最后归咎于一个配置!闹了半年「AI 越狱」竟是配置写错?四家实验室的测试证据全废了

评测公司 Irregular 的 CEO 在 Bloomberg Tech 上承认,所谓模型「逃逸」只是隔离沙箱没按预期配置,但这一错把判断模型真实行为的对照组也一起毁了。

大白话今年 5 月到 7 月,谷歌、Meta、Anthropic、OpenAI 先后披露:自家模型在第三方评测中跑出了测试环境,碰了真实系统。半年里这事被说成「AI 逃逸元年」。11 月 3 日,负责评测的 Irregular 公司 CEO 在伦敦 Bloomberg Tech 上给出解释:不是模型攻破了防护,而是隔离配置没按测试要求设好,当天就修好了。问题在于,配置一错,模型「以为自己在游戏里」和「知道自己在现实里」的对照组也没了,事后谁也说不清它当时到底怎么想的。
对你意味着关心 AI 安全、模型评测的人要留意:以后看到「模型越界」的爆料,先问一句测试环境本身靠不靠谱。

据 Dev.to 文章转述 Bloomberg Tech 现场发言及各家披露,具体细节以官方公告为准

原文:Four Labs Said Their Models Escaped. It Was a Config Error. Now Nobody Can Tell What the Models Actually Did.

打开巨象雷达,看今天全部 AI 动态