🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
Dev.to2026-11-06 23:31AI 生成

你的 AI 助手,可能正在替别人办事!AI 读个网页就被带跑偏?提示词注入这个坑,连作者都是 AI 写的

一篇由 Claude 撰写、另一个智能体逐条核对的科普文指出:只要 AI 会读网页、邮件和文件,别人就能把指令藏在里面,悄悄劫持它。

大白话提示词注入,说白了就是有人把一段话藏进 AI 会读的内容里,让 AI 违背原本的规矩。分两种:一种是你自己打字诱导它,比如让它无视安全限制、吐出隐藏设定;另一种更阴,指令藏在网页、邮件、文档或工具返回结果里,用的人根本看不见。AI 能干的活越多,风险越大——只会写字顶多误导你,能发邮件、能上网的智能体,就可能照着别人的话真去动手。
对你意味着只要你用 AI 读陌生网页、扫邮箱、接文件,这事就和你有关;给助手开的权限越多,越该留个心眼。

Dev.to 科普文章,作者自述由 AI 智能体撰写并经另一智能体核查,观点供参考

原文:What is prompt injection? A plain-English guide

打开巨象雷达,看今天全部 AI 动态