OpenAI内部对ChatGPT文本水印系统存分歧

据《华尔街日报》报道，OpenAI大约一年前就已准备好一套用于给ChatGPT创建的文本添加水印的系统和一套用于检测水印的工具。但该公司内部对于是否发布该系统存在分歧。一方面，这似乎是负责任的做法；另一方面，这可能会损害其利润。

OpenAI的水印被描述为调整模型如何预测最有可能跟在前面的单词和短语后面的单词和短语，从而创建可检测的模式。（这是一种简化，但您可以查看Google对Gemini文本水印的更深入解释以了解更多信息）。

提供任何检测人工智能写作材料的方法，对于试图阻止学生将写作作业交给人工智能的教师来说都是一个潜在的福音。《华尔街日报》报道称，该公司发现水印不会影响其聊天机器人文本输出的质量。在该公司委托进行的一项调查中，“全球民众以四比一的比例支持使用人工智能检测工具的想法”，《华尔街日报》写道。

《华尔街日报》发表报道后，OpenAI在今天的博客文章更新中证实，它正在研究文本水印，TechCrunch发现了这一更新。在这篇文章中，该公司表示，其方法非常准确（据《华尔街日报》看到的文件称，“99.9%有效”），并且可以抵抗“篡改，例如改写”。但它表示，像用另一个模型改写这样的技术“很容易被坏人规避”。该公司还表示，它担心人工智能工具对非母语人士的实用性会受到污名化。

但OpenAI似乎也担心使用水印可能会让接受调查的ChatGPT用户失去兴趣，其中近30%的用户明确告诉该公司，如果实施水印，他们会减少使用该软件。

尽管如此，据报道，一些员工仍然认为水印是有效的。不过，鉴于用户的不满情绪，《华尔街日报》称，一些人建议尝试“可能在用户中争议较少但未经证实”的方法。该公司在今天的博客文章更新中表示，它正处于探索嵌入元数据的“早期阶段”。它表示，现在还“为时过早”，无法知道它会有多好，但由于它是加密签名的，所以不会出现误报。