OpenAI 发布 CSAM 图像分类器,ChatGPT 增警告与临时封禁
OpenAI 推出可检测 AI 生成 CSAM 的图像分类器,经 API 免费向部分企业开放;ChatGPT 对相关提示弹出警告并临时封禁账号 24 小时,同时发布开发者指南与执法工具。
要点
- 新图像分类器可识别包括 AI 生成的 CSAM 图像,通过 API 免费向特定企业开放
- 该分类器与 NCMEC 合作开发,早期测试中标记图片减少 48%,检出滥用图片数量相同
- ChatGPT 对相关提示显示警告、引导用户获取支持,并临时封禁账号 24 小时
- OpenAI 发布开发者指南,用于预防、检测并协助上报 CSAM 内容
- 向执法机构提供专用插件、调查工具、数据分析能力及培训
阅读原文这里是中文要点整理,数字与细节以原文为准。
评论
还没有评论,来写第一条。