DeepSeek V4.1 Flash 1017 出了个"无审查"魔改版,直接把拒答率从 85% 打到 0%。更让人意外的是,它号称一块 12GB 显卡就能在本地跑起来。今天就拆开看看,这波到底是不是噱头。
拒答真的清零了吗
拿三组基准说话:JailbreakBench、XSTest、Thinking High,原来都在 85% 以上,现在全部降到 0.0%;连思考(thinking)阶段也不再自我审查。也就是说,模型从"能问不能答"变成了"问什么接什么"。
能力几乎没掉
最怕的就是去了护栏、智商用没了。这份数据看起来还稳:MMLU 偏差控制在 1 分以内;GPQA-Diamond 拿到 83.3%,和原版持平;AIME 这类推理题基本不掉点,KL 散度约 0.02,说明输出分布和原版几乎一致。换句话说,能力账本上没怎么亏。
12GB 显卡到底能不能跑
宣传里说"12GB 显卡就能跑",真实门槛是:单卡 12GB 显存,外加 64GB 内存和一块高速 SSD。关键在于它用 Strata 把 Engram 表从硬盘流式加载,权重不全压在显存里。
量化有三档可选:IQ1_M(121GB / 1.75bpw)、IQ2_XXS(138GB)、IQ2_XS(155GB)。专家权重保持原版不动,只改了 dense residual writers。一句话,模型本体躺在 SSD 上,显存只装活跃的那部分。对家用机来说,这比"全量塞进显存"现实得多。
方法干净,还能商用
它用的是 abliteration(强度 2.0),只把"拒答方向"从权重里投影掉,模型其余部分基本没动,没有走粗暴微调的老路。协议是 MIT,可以商用。
跑起来分几步
-
装 Strata:git clone 后按官方文档编译(目前 llama.cpp 还不支持独立的 Engram 文件)。 -
下模型:去 Hugging Face 拉对应的 GGUF 量化包,比如 IQ2_XXS。 -
下共享的 Engram 文件(一次即可),放到高速 SSD。 -
启动:strata launch 指向本地 gguf,Engram 放 SSD。 -
直接用原版模板和采样参数(temp=1.0、top_p=1.0),拒答就消失了。
同系列还有个 Obliterated 版
同一波人更早还放过另一个魔改:拒绝率从 81.62% 降到 4.30%,有害协助率反而从 10.38% 升到 78.28%;MMLU 88.08%,比原版 87.96% 还微升,KL 仅 0.13 nats。那版是 BF16 全量(约 755B 参数),门槛高得多,普通机器跑不动,得等多 GPU 或等现成量化版。
怎么看这事
无审查本地模型早已有之,abliteration 这套也流行一阵了。真正值得留意的有两点:一是它把"几乎零损耗去对齐"做到了新低;二是靠 Engram 表流式加载,把显存门槛压到了消费级。把近乎前沿的模型搬进普通人的机器,本身是好事,只是门槛越低,越该早立分寸,防微杜渐。
参考内容:https://x.com/NFT_Chen/status/2116777177555562682
评论 (0)