OpenAI is joining the 内容来源和真实性联盟 (C2PA) steering committee and will integrate the open standard’s metadata into its generative AI models to increase transparency around generated content.

C2PA标准允许数字内容通过证明其来源的元数据进行认证，无论是完全由AI创建、使用AI工具编辑，还是传统方式拍摄的。OpenAI已经开始将C2PA元数据添加到其最新的DALL-E 3模型在ChatGPT和OpenAI API中产出的图像中。当Sora视频生成模型更广泛推出时，这些元数据也将被集成到OpenAI的产品中。

OpenAI解释称：“人们仍然可以在没有这些信息（或删除这些信息）的情况下创建欺骗性内容，但他们不能轻易地伪造或修改这些信息，使其成为建立信任的重要资源。”

在美国、英国和其他国家的主要选举即将到来之际，人们越来越担心AI生成内容可能误导选民的潜力。验证AI创建的媒体可能有助于打击旨在进行虚假信息宣传活动的深度伪造和其他操纵内容。

OpenAI承认，虽然技术措施有所帮助，但在实践中确保内容真实性需要平台、创作者和内容处理者的共同行动，以保留终端消费者的元数据。

除了C2PA集成外，OpenAI正在开发新的来源方法，如音频和图像检测分类器的防篡改水印，用于识别AI生成的视觉内容。

OpenAI has opened applications for access to its DALL-E 3 image detection classifier through its 研究者访问计划. The tool predicts the likelihood an image originated from one of OpenAI’s models.

该公司表示：“我们的目标是使独立研究能够评估分类器的有效性，分析其在现实世界中的应用，发掘使用它的相关考虑因素，并探索AI生成内容的特性。”

内部测试显示，在区分非AI图像与DALL-E 3图像方面的准确度很高，约有98%的DALL-E图像被正确识别，而不到0.5%的非AI图像被错误标记。然而，分类器在区分DALL-E和其他生成AI模型生成的图像方面挣扎得更多。

OpenAI还将水印技术纳入其Voice Engine定制语音模型，该模型目前处于有限预览阶段。

该公司相信，来源标准的更广泛采用将导致元数据伴随内容通过其整个生命周期，填补“数字内容真实性实践中的关键空白”。

OpenAI is joining Microsoft to 启动 a $2 million societal resilience fund to support AI education and understanding, including through AARP, International IDEA, and the Partnership on AI.

OpenAI表示：“虽然上述技术解决方案为我们的防御提供了积极的工具，但在实践中有效地实现内容真实性还需要集体行动。”

“我们在来源方面的工作只是更广泛行业努力的一部分——我们的许多同行研究实验室和生成性AI公司也在推进这一领域的研究。我们赞赏这些努力——行业必须协作并分享洞察力，以提升我们的理解并继续促进在线透明度。”

(Photo by Marc Sendra Martorell)

另见： Chuck Ros, SoftServe：负责任地提供革命性AI解决方案

想了解更多来自行业领袖的AI和大数据信息？ Check out AI & Big Data Expo taking place in Amsterdam, California, and London. The comprehensive event is co-located with other leading events including 智能自动化会议, BlockX, 数字转型周, and Cyber Security & Cloud Expo.

Explore other upcoming enterprise technology events and webinars powered by TechForge 这里.

标签： ai, 人工智能, c2pa, 道德, genai, 生成型ai, openai, 社会