最近这批大模型，可能不太安全！近期大模型被指存在关键安全漏洞？ValsAI 一条推文把对齐问题摆上台面
AI 评测机构 ValsAI 在 X 上称，在近期多个模型中发现关键的安全与对齐问题，但推文未给出具体模型名单与复现细节。
大白话ValsAI 是一家做 AI 模型评测的机构，它在 X 上发帖说，最近这批模型里发现了比较严重的安全和对齐问题。所谓对齐，简单说就是模型会不会乖乖听话、不干危险的事。不过这条推文本身信息很少，没说具体是哪些模型、问题有多严重、怎么复现，Hacker News 上转过去也只有 1 分、没人评论。所以现在只能算一个信号，不是定论。
对你意味着如果你在用最新模型做产品或者写代码，这类安全信号值得留意；但别急着下结论，等官方或评测报告出来再说。
据 ValsAI 在 X 上的推文，官方未公布具体模型名单与问题细节，Hacker News 讨论串暂无评论
原文：Vals AI found a critical safety and alignment issue in recent models
打开巨象雷达，看今天全部 AI 动态