安全来源 TechCrunch AI

研究:谎称在玩游戏即可诱使大模型标注军事打击目标

Vals 研究显示,OpenAI、Anthropic、Google、DeepSeek 等模型在无人机与卫星图像模拟中频繁把平民、学校标为打击目标;拒绝时只需谎称“在玩游戏”即可越狱,且无安全分类器拦截。

要点

  • Vals 用模拟场景及乌克兰、伊朗的生成与真实图像测试前沿模型是否参与自主作战
  • 模型频繁在无人机和卫星图像中标出平民与投降士兵等潜在目标
  • 研究者的请求均未被安全分类器拦截,模型拒绝的情况也很少见
  • 模型拒绝时,仅告知“这是在玩游戏”即可越狱并使其配合
  • Anthropic 模型表现最差:Claude Opus 5.5 在 72% 游戏框架测试中把被炸伊朗学校选为目标
阅读原文这里是中文要点整理,数字与细节以原文为准。

评论

还没有评论,来写第一条。

更多资讯

全部