您尚未登录账户请先登录您的atyun账户，方可使用该功能
您的企业账号申请正在审核中审核通过后即可使用此功能，请耐心等待~
OpenAI采取措施提高AI生成内容的透明度
1970年01月01日 由 佚名 发表
12
0
您尚未登录账户
您的企业账号申请正在审核中
C2PA标准允许将数字内容通过元数据进行认证，证明其起源，无论是完全由AI创建的，通过AI工具编辑的，还是传统方式捕获的。OpenAI已经开始向其最新的DALL-E3模型输出在ChatGPT和OpenAI API中的图像添加C2PA元数据。该元数据将被集成到OpenAI即将推出的、用于生成视频的模型Sora中，当Sora更广泛推出时。
OpenAI解释说：“尽管人们仍然可以在没有这些信息的情况下创造欺骗性内容（或者可以移除它），但他们无法轻易伪造或更改这些信息，这使得它成为建立信任的重要资源。”
之所以采取这一行动，是因为人们越来越担心AI生成的内容有潜力在今年美国、英国和其他国家的重大选举前误导选民。认证AI创建的媒体可能有助于打击旨在进行假信息宣传的深度造假和其他被操纵的内容。
虽然技术措施能够提供帮助，但OpenAI认识到，实际启用内容真实性需要平台、创作者和内容处理者的集体行动，以便为最终消费者保留元数据。
除了集成C2PA之外，OpenAI还在开发新的出处方法，如对音频和图像进行防篡改水印，以及用于识别AI生成的视觉效果的检测分类器。
OpenAIhasopenedapplicationsforaccesstoitsDALL-E3imagedetectionclassifierthroughits
该公司表示：“我们的目标是使独立研究能够评估分类器的效用，分析其真实世界的应用，揭示这种使用的相关考虑因素，以及探索AI生成内容的特性。”
内部测试显示，分类器在区分非AI图像和DALL-E3视觉效果方面具有很高的准确性，约98%的DALL-E图像被正确识别，而不到0.5%的非AI图像被错误标记。然而，分类器在区分DALL-E产生的图像和其他生成性AI模型所产生的图像方面表现得更加困难。
OpenAI还将水印技术整合到其Voice Engine自定义语音模型中，目前处于有限预览阶段。
该公司认为，出处标准的广泛采用将导致元数据伴随内容的完整生命周期，填补“数字内容真实性实践中的关键缺口”。
OpenAIisjoiningMicrosoftto
OpenAI表示：“虽然像上述的技术解决方案为我们的防御提供了主动工具，但实际启用内容真实性还需要集体行动。”
“我们围绕出处的工作只是更广泛行业努力的一部分，我们的许多同行研究实验室和生成性AI公司也在这一领域推进研究。我们赞扬这些努力——行业必须协作并分享见解，以增强我们的了解并继续在网上推动透明度。”
(Photoby
另见：
想了解更多 AI 和大数据方面的信息吗？Checkout
ExploreotherupcomingenterprisetechnologyeventsandwebinarspoweredbyTechForge
