平时正常，一句暗号就叛变——这模型你敢用吗？免费送你的大模型可能被埋雷：论文曝预训练投毒可让 AI 偷偷当内鬼
一篇 arXiv 论文提出「智能体后门」：在预训练阶段投毒，模型平时表现正常，一旦被特定触发词激活就会替攻击者办事。
大白话这篇论文研究的是：有人可以在大模型最早期、也就是预训练阶段就偷偷下毒，让模型平时看着一切正常，但遇到特定暗号就变成「内鬼」，替攻击者执行某些操作。Hacker News 上有人把它比作电影《满洲候选人》里的洗脑触发，还起了个外号叫「上下文炸弹」。讨论里也有人泼冷水：对真正的攻击者来说，这招未必划算。
对你意味着如果你常用免费或来路不明的开源模型、第三方微调版本，这篇提醒你：模型本身可能就带着看不见的开关。
论文为 arXiv 预印本，尚未经同行评审；网友观点来自 Hacker News 讨论串
打开巨象雷达，看今天全部 AI 动态