🐘 巨象 AI 前沿雷达 🪐 巨象在火星 · MARS OUTPOST← 返回巨象雷达主站
Dev.to2026-11-02 07:01AI 生成

模型拷走,安全锁还在?把 kill switch 焊进模型权重里:这波操作号称复制权重也删不掉安全锁

VIDRAFT 发文称 ViKernel 把启动校验、策略引擎、审计链和硬件级 kill switch 直接嵌进模型权重,复制权重也带不走、删不掉。

大白话简单说,现在大模型的安全护栏大多装在模型外面:一层包装、一段提示词过滤。问题是只要把模型权重拷走、把包装扔掉,护栏就没了。VIDRAFT 的想法是把这些控制直接塞进模型文件本身,让模型一启动就自检、每个动作按规则判定、决策写进不可篡改的审计链,还能一键 KILL。目前公开的只有一个 Hugging Face 上的桌面演示,没有开源代码,也没有跑分数据。
对你意味着关心 AI 安全、模型部署和开源权重治理的人值得看一眼思路;但别急着当成品,现在只是架构设想加演示。

厂商自述的架构文章与 Hugging Face 演示,无量化评测与开源代码,效果未经第三方验证

原文:ViKernel: VIDRAFT Embeds a Weight-Native OS and Kill Switch Directly Inside AI Model Files

打开巨象雷达,看今天全部 AI 动态