OpenAI推出AI图像检测工具,识别区分准确率达98%

当地时间周二,OpenAI发布公告称,为了区别照片是由相机还是自家AI生成,公司推出了一款图像检测分类器——用来分析一幅图像是由OpenAI的“文生图”工具DALL·E 3生成的概率。OpenAI从周二开始接受研究人员访问该工具的申请。

OpenAI介绍称,在内部对分类器进行的早期测试显示,该工具在区分非AI生成图像与DALL·E 3生成的图像方面成功率很高,成功率能够接近98%,同时只有少于0.5%的非AI图像被错误地标记来自DALL·E 3。同时这个工具能够应付一系列常见的修改,例如压缩、裁剪和修改图像饱和度。

然而,这项工具也有局限性。OpenAI透露,如果对图片进行一些微小的修改,就可能会扰乱工具的可靠性。同时,该工具在区分DALL·E 3与其他AIGC工具的产出方面也表现不佳。不过OpenAI也强调,开发这个工具的意图本来就不是用于检测其他热门工具(例如Midjourney)生成的图像。

值得一提的是,OpenAI曾在去年推出过一个检测AI生成文字的工具,但识别准确率低到让公司自己都强调“这个工具不可靠”。但从最新进展来看,识别AI图像的前景要明显好于分辨AI生成的文字。

(校对/张轶群


夕夕海 » OpenAI推出AI图像检测工具,识别区分准确率达98%

发表回复