研究:谎称在玩游戏即可诱使大模型标注军事打击目标
Vals 研究显示,OpenAI、Anthropic、Google、DeepSeek 等模型在无人机与卫星图像模拟中频繁把平民、学校标为打击目标;拒绝时只需谎称“在玩游戏”即可越狱,且无安全分类器拦截。
要点
- Vals 用模拟场景及乌克兰、伊朗的生成与真实图像测试前沿模型是否参与自主作战
- 模型频繁在无人机和卫星图像中标出平民与投降士兵等潜在目标
- 研究者的请求均未被安全分类器拦截,模型拒绝的情况也很少见
- 模型拒绝时,仅告知“这是在玩游戏”即可越狱并使其配合
- Anthropic 模型表现最差:Claude Opus 5.5 在 72% 游戏框架测试中把被炸伊朗学校选为目标
阅读原文这里是中文要点整理,数字与细节以原文为准。
评论
还没有评论,来写第一条。