你的 AI 客服可能被这样骗走钱！同一客服机器人被攻破 42 次 vs 7 次？红队实测两款模型差距悬殊
开发者用同一套红队测试打同一个客服 AI，DeepSeek V4.1 Flash 两轮分别骗出 41 次和 50 次假退款，OpenAI 的 gpt-6-luna 只有 7 次和 10 次。
大白话有人做了个实验：让两个 AI 模型扮演「攻击者」，去忽悠一个客服机器人给不存在的订单退款。DeepSeek V4.1 Flash 很会演，猜订单号、冒充家属、伪造邮件，两轮下来分别骗出 41 次和 50 次退款；OpenAI 的 gpt-6-luna 则像个审计员，总在攻击里提醒「别退款」，只成功 7 次和 10 次。作者强调这只是单个弱机器人上的对比，不能说明谁更强。
对你意味着做 AI 客服、智能体上线的团队要注意：你选哪个模型当红队，直接决定测出来的漏洞多不多，选温和的模型可能漏掉真问题。
Dev.to 开发者个人实验，样本为单个演示用弱客服 bot，作者自述结论不具普适性
原文：Not every model makes a good attacker: OpenAI vs DeepSeek for red-teaming
打开巨象雷达，看今天全部 AI 动态