你训练的图，可能早就被人换过了！花 60 美元就能给 4 亿张 AI 训练图下毒？谷歌研究揭开源数据集致命软肋
谷歌与 ETH 苏黎世研究者发现，LAION-400M 这类只存链接的巨型数据集，可被低成本劫持过期域名批量投毒，约 4 万对图文就能被污染。
大白话LAION-400M 是德国非营利组织 LAION 做的免费图文数据集，4 亿对图片和文字，很多 AI 画图模型都拿它训练过。关键问题是它不存图片本身，只存网页链接。研究者算过，只要花约 60 美元买下那些已经过期的域名，把旧地址换成坏图，就能污染其中约 0.01%、也就是 4 万对图文。更早的研究还显示，几百个精心构造的样本就足以给模型埋下隐藏触发词。
对你意味着所有用公开数据集训练模型的团队都该看看：你下载的图，可能早就不是当初那张了。
据 Dev.to 转载的谷歌、ETH Zurich 等机构研究报道，论文可查，具体成本为研究者估算
原文：Hackers Could Poison A Giant AI Photo Dataset For Just $60
打开巨象雷达，看今天全部 AI 动态