Nous 开源 Arete-27B:宣传性回答22%降至0.9%
Nous Research 发布 Arete-27B,仅对 Qwen3.8-27B 做监督微调,未使用 RL 或偏好优化。在其803条提示评测中,宣传性回答占比从22%降至0.9%,基准能力基本持平,权重、评测集与训练数据全部公开。
要点
- 基于 Qwen3.8-27B 仅做监督微调,无 RL、无偏好优化、无架构改动,Apache 2.0
- 803条提示评测中宣传性回答从22%降至0.9%,事实均分从2.32升至2.98(满分5)
- 0分回答从359条降至216条;言论自由类目宣传率从60%降至1%
- 训练约5280万 tokens、2个 epoch、1202步,教师模型为 Thinking Machines 的 Inkling
- 公开 arete-data-pairs 含34878条提示,SFT 使用29236条教师答案
阅读原文这里是中文要点整理,数字与细节以原文为准。
评论
还没有评论,来写第一条。