模型拷走,安全锁还在?把 kill switch 焊进模型权重里:这波操作号称复制权重也删不掉安全锁
VIDRAFT 发文称 ViKernel 把启动校验、策略引擎、审计链和硬件级 kill switch 直接嵌进模型权重,复制权重也带不走、删不掉。
大白话简单说,现在大模型的安全护栏大多装在模型外面:一层包装、一段提示词过滤。问题是只要把模型权重拷走、把包装扔掉,护栏就没了。VIDRAFT 的想法是把这些控制直接塞进模型文件本身,让模型一启动就自检、每个动作按规则判定、决策写进不可篡改的审计链,还能一键 KILL。目前公开的只有一个 Hugging Face 上的桌面演示,没有开源代码,也没有跑分数据。
对你意味着关心 AI 安全、模型部署和开源权重治理的人值得看一眼思路;但别急着当成品,现在只是架构设想加演示。
厂商自述的架构文章与 Hugging Face 演示,无量化评测与开源代码,效果未经第三方验证
原文:ViKernel: VIDRAFT Embeds a Weight-Native OS and Kill Switch Directly Inside AI Model Files
打开巨象雷达,看今天全部 AI 动态