OpenAI 正开发新的 AI 图像检测工具 预测照片是否由DALL-E3生成
划重点:
- OpenAI 新增了用于检测图像是正开否由其 DALL-E AI 图像生成器生成的工具。
- 新的发新图像检测分类器可预测照片是否由 DALL-E3生成。
- OpenAI 还加入了不可见水印技术,像检用于更清晰地标记其生成的测工测照内容。
CSS站长资源(ChinaZ.com)5月8日 消息:OpenAI 近日宣布,具预他们已开始开发新的片否溯源方法,用于跟踪内容并证明其是生成否由人工智能生成。其中包括使用人工智能来确定照片是正开否是由 AI 生成的新的图像检测分类器,以及一种耐篡改的发新水印技术,可为内容添加不可见信号。像检
这个分类器可以预测照片是测工测照否由 DALL-E3生成。OpenAI 声称,具预即使图像被裁剪、片否压缩或饱和度发生变化,生成该分类器也能以约98% 的正开准确率检测出图像是否由 DALL-E 生成。然而,该工具在确定内容是否来自其他 AI 模型的性能则不佳,只能标记出来自其他图像生成器(如 Midjourney)的照片的5% 至10%。
此前,OpenAI 已经在图像的元数据中加入了 Coalition of Content Provenance and AuthorityC2PA)提供的内容凭证。内容凭证本质上就是水印,包含有关图像所有者和创建方式的信息。OpenAI 与微软、Adobe 等公司一样,是 C2PA 的成员之一。此外,本月,OpenAI 还加入了 CPA 的指导委员会。
除了图像分类器,OpenAI 还开始向其文本到语音平台 Voice Engine 的片段添加水印。这一功能目前处于有限预览阶段。
无论是图像分类器还是音频水印技术,都还在不断完善中。OpenAI 表示需要从用户处获得反馈以测试其有效性。研究人员和非营利新闻机构可以通过 OpenAI 的研究访问平台测试图像检测分类器。
多年来,OpenAI 一直致力于检测由 AI 生成的内容。然而,在2023年,他们不得不终止一项旨在识别 AI 写作文本的计划,因为 AI 文本分类器一直准确率很低。
(责任编辑:电商)
- ·奇瑞回应徐奶奶车被奔驰男砸:我们的车主奶奶我们自己宠 已送新车瑞虎9代步
- ·陶瓷手机里的性能猛兽!卷王一加Ace 3 Pro来了
- ·在中国上路会很难 马斯克:将提供“版”Cybertruck皮卡
- ·苹果Vision Pro可预约体验了:时长30分钟 近视人群戴眼镜去即可
- ·美邦创始人:亏损责任不在我女儿 自己将全面参与经营
- ·草鱼身卡异物疑似金镯 渔民:次见到这种情况
- ·一代神车五菱宏光即将上新!外观大变 新增纯电版车型
- ·规格拉满!Llama和Sora作者都来刷脸的中国AI春晚,还开源了一大堆大模型成果
- ·谷歌产品大更新:Bard可生成图像;文生音乐平台等5大免费功能
- ·内折、外折、小折全掌握!荣耀成为全球折叠屏全形态在售手机厂商