Meta 将标记 OpenAI、Google 等人工智能生成图像

Meta 及旗下的产品
Meta 及旗下的产品

据《路透社》报道,Meta Platforms 高级政策执行官周二(2月6日)表示,未来几个月,Meta Platforms 将开始使用文件中内置的一组隐形标记来检测和标记其他公司人工智能服务生成的图像。

Meta 全球事务总裁尼克·克莱格 (Nick Clegg) 在博客中表示,该公司会将标签应用于发布到其 Facebook、Instagram 和 Threads 服务上的任何带有标记的内容,以向用户表明这些图像(在许多情况下类似于真实照片)实际上是数字创作。

该公司已经对使用自己的人工智能工具生成的所有内容进行了标记。

克莱格表示,一旦新系统启动并运行,Meta 将对 OpenAI、微软、Adobe、Midjourney、Shutterstock 和 Alphabet 旗下的谷歌运行的服务创建的图像执行相同的操作。

该公告让我们得以初步了解科技公司正在开发的新兴标准系统,以减轻与生成人工智能技术相关的潜在危害,该技术可以根据简单的提示吐出虚假但看似真实的内容。

该方法以过去十年中一些公司建立的模板为基础,以协调跨平台删除禁止内容,包括对大规模暴力和儿童剥削的描述。

克莱格在接受采访时表示,他相信这些公司目前可以可靠地标记人工智能生成的图像,但表示标记音频和视频内容的工具更加复杂,并且仍在开发中。

克莱格说:“尽管这项技术尚未完全成熟,特别是在音频和视频方面,但我们希望能够为行业其他公司创造一种动力和动力,让他们效仿。”

他补充说,在此期间,Meta 将开始要求人们为自己修改过的音频和视频内容贴上标签,如果他们不这样做,将实施处罚。克莱格没有描述处罚情况。

他补充说,目前没有可行的机制来标记由 ChatGPT 等人工智能工具生成的书面文本。

Meta 发言人拒绝透露该公司是否会将标签应用于其加密消息服务 WhatsApp 上共享的生成人工智能内容。

Meta 的独立监督委员会周一谴责了该公司针对误导性篡改视频的政策,称该政策范围太窄,内容应该被标记而不是删除。

克莱格表示,他基本上同意这些批评。

他说,董事会是对的,Meta 的现有政策“在合成内容和混合内容比以前多得多的环境中根本不适合目的。”

他引用新的标签合作伙伴关系作为 Meta 已经朝着董事会提议的方向前进的证据。