你给 AI 的文件名,可能正在偷偷下命令!文件名就是隐形指令?开发者实测:AI 会把 121212 当色号精准执行
一位开发者在 Dev.to 发技术报告称,网页版 AI 会把文件名当成指令来读,甚至能从名字里抠出精确的十六进制色号和毫秒数照做。
大白话这位作者在 Dev.to 连载了两篇技术报告。他发现,AI 读文件时不只是「大概理解」,而是像编译器一样从文件名里提取精确值:文件名叫「绝对黑底 121212 用于对比」,AI 就真的用 #121212 这个色号,连 2500 毫秒这种数字也照搬。他还发现同一套环境跑多次结果不一样,AI 的「注意力预算」有限,改了某些文件名的权重,它就会丢掉之前遵守的指令。作者认为靠关键词黑名单防不住,得靠架构隔离。
对你意味着如果你用 AI 智能体读写本地文件夹、跑自动化任务,这提醒你:文件名本身可能就是攻击面,别把敏感目录直接丢给智能体。
开发者个人技术报告与自测结论,非官方安全研究,结论待同行验证
原文:Reverse Prompt Injection: When the AI stops guessing and starts compiling (Part 2)
打开巨象雷达,看今天全部 AI 动态