IT之家·· 3 天前AI 评分70
OpenAI 推出儿童性虐待内容检测工具与 ChatGPT 安全干预机制
OpenAI 推出儿童性虐待内容检测工具,加强儿童网络安全防护
AI 导读
OpenAI 推出用于检测儿童性虐待内容(CSAM)的图像分类器,该工具通过 API 向经过审核的机构免费开放,可支持执法调查并减少 48% 的误标记。同时在 ChatGPT 中新增产品警告机制,一旦用户试图寻找相关违规素材,账号将被停用 24 小时,反复违规可能导致永封或被举报至有关部门。
来源:IT之家 · ithome.com