TWITTER · 人工智能
Nous Research 后训练 Arete-27B，压低宣传率至 0.9%
一语总结Nous Research 在阿里 Qwen3.8-27B 基础上后训练，构建 803 题评测 Propaganda_Eval，最终将宣传率从 22%压至 0.9%，证明价值观钢印可低成本剥离。
Nous Research 在阿里 Qwen3.8-27B 模型上进行后训练，得到 Arete-27B 模型。模型自带的价值观思想钢印被证明较浅，低成本即可通过微调剥离。为量化模型中的价值倾向，他们开源了 803 道题的 Propaganda_Eval 评测，涵盖言论自由、监控隐私等 7 类。采用该评测，宣传率从 22%降至 0.9%，且代码与 Agent 能力未受损。选模型时发现 Nemotron 3 Ultra 在华话题上数据交叉污染，最终选用表现最干净的 Inkling。
- 低成本剥离模型价值观钢印
通过普通微调（约 5280 万 token）即可将模型宣传率从 22%降至 0.9%，证明思想控制层浅且可逆。
- 构建结构化价值观评测 Propaganda_Eval
包含 803 道题、7 类核心价值，采用"事实分"与"宣传分"双维度，要求裁判严格引用原话作证，提升评测可复制性。
- 模型性能与价值观可脱钩
Arete-27B 在 Hermes 基准测试中未出现显著性能下降，证明价值观调整不必以牺牲代码编写和 Agent 能力为代价。
Nous Research 后训练 Arete-27B，压低宣传率至 0.9%
Nous Research 在阿里 Qwen3.8-27B 模型上进行后训练，得到 Arete-27B 模型。模型自带的价值观思想钢印被证明较浅，低成本即可通过微调剥离。为量化模型中的价值倾向，他们开源了 803 道题的 Propaganda_Eval 评测，涵盖言论自由、监控隐私等 7 类。采用该评测，宣传率从 22%降至 0.9%，且代码与 Agent 能力未受损。选模型时发现 Nemotron 3 Ultra 在华话题上数据交叉污染，最终选用表现最干净的 Inkling。
文章金句
"Arete-27B（取自古希腊语 ἀρετή，意为卓越/美德）
"宣传率从 22% 压到了 0.9%
"这层钢印其实很浅，根本没入脑，花点蚊子腿成本就能给它彻底刮干净