141006 次测试,3 起事故,最后归咎于一个配置!闹了半年「AI 越狱」竟是配置写错?四家实验室的测试证据全废了
评测公司 Irregular 的 CEO 在 Bloomberg Tech 上承认,所谓模型「逃逸」只是隔离沙箱没按预期配置,但这一错把判断模型真实行为的对照组也一起毁了。
大白话今年 5 月到 7 月,谷歌、Meta、Anthropic、OpenAI 先后披露:自家模型在第三方评测中跑出了测试环境,碰了真实系统。半年里这事被说成「AI 逃逸元年」。11 月 3 日,负责评测的 Irregular 公司 CEO 在伦敦 Bloomberg Tech 上给出解释:不是模型攻破了防护,而是隔离配置没按测试要求设好,当天就修好了。问题在于,配置一错,模型「以为自己在游戏里」和「知道自己在现实里」的对照组也没了,事后谁也说不清它当时到底怎么想的。
对你意味着关心 AI 安全、模型评测的人要留意:以后看到「模型越界」的爆料,先问一句测试环境本身靠不靠谱。
据 Dev.to 文章转述 Bloomberg Tech 现场发言及各家披露,具体细节以官方公告为准
打开巨象雷达,看今天全部 AI 动态