基于人工智能的图像生成工具的功能已经发展到一个阶段，人们可能会将它们误认为是非人工智能生成的或真实的图像。这引起了人们对其潜在滥用的担忧。
OpenAI已经为DALL-E 3 生成的图像引入了水印，以保持来源的透明度并尊重真实性。该公司目前正在开发一种新工具，能够将真实图像与该公司基于图像文本的生成模型 DALL-E 生成的图像区分开来。
OpenAI 的生成式 AI 工具将包含 C2PA 元数据
OpenAI 官方博客宣布，他们正在研究检测人工智能生成内容的新方法。据该公司称，其目标是帮助研究人员研究内容真实性，并加入内容来源和真实性指导委员会联盟(C2PA)，这是一种广泛使用的数字内容认证标准。它将允许创作者标记和认证他们的内容，以验证其真实来源。
OpenAI 表示，当该公司的视频生成模型广泛推出时，他们还将集成Sora的 C2PA 元数据。对于那些不知道的人来说，Sora 也可能会成为一种高级文本到视频生成工具，就像 DALL-E 3 一样，只有付费订阅者才能访问它。据此前报道，Sora 将于 2024 年向公众开放。
OpenAI 正在构建一个新工具来检测 DALL-E 3 生成的内容
如上所述，OpenAI 还在开发一种新工具，使用 AI 来检测DALL-E 3生成的图像。更具体地说，它预测该工具生成图像的概率。据该公司介绍，在图像被压缩、调整饱和度、甚至裁剪图像后，仍然可以检测到图像。更不用说，这些工具的目的是更加抵制删除有关内容来源的信号的尝试。
该检测工具对于使用 DALL-E 创建的图像的准确率达到 98%，更重要的是，不会将非 AI 生成的图像标记为 AI 生成的。
该公司已经向第一组测试人员开放了使用新图像检测工具的应用程序。它包括研究实验室和以研究为导向的新闻非营利组织，旨在通过研究人员访问计划收集反馈。