速递｜OpenAI已开发判别是否使用ChatGPT写作业工具，但尚未发布

图片来源：ChatGPT

OpenAI 已经开发出一种工具，有可能抓住那些通过要求 ChatGPT 撰写作业来作弊的学生--但据《华尔街日报》报道，该公司正在考虑是否真的要发布这种工具。

在提供给 TechCrunch 的一份声明中，OpenAI 发言人证实该公司正在研究《日报》报道中描述的文本水印方法，但表示由于 "涉及的复杂性及其可能对 OpenAI 以外的更广泛生态系统产生的影响"，该公司正在采取一种 "深思熟虑的方法"。

该发言人说："我们正在开发的文本水印方法在技术上很有前途，但在研究替代方法的同时，我们也在权衡其中的重要风险，包括容易被坏人规避，以及可能对非英语使用者等群体造成不相称的影响。"

这将是一种不同于以往大多数检测人工智能生成文本的方法，这些方法在很大程度上是无效的。即使是 OpenAI 本身也在去年关闭了之前的人工智能文本检测器，原因是其 "准确率较低"。

在文字水印方面，OpenAI 将只专注于检测 ChatGPT 中的文字，而不是其他公司的模型。为此，OpenAI 将对 ChatGPT 选取文字的方式进行微小改动，从而在文字中创建一个隐形水印，随后再由单独的工具进行检测。

在《期刊》的报道发表后，OpenAI 还更新了5 月份的一篇博文，介绍了其围绕检测人工智能生成的内容所开展的研究。更新内容称，文本水印已被证明 "高度准确，甚至能有效抵御本地化篡改，例如转述"，但已被证明 "在抵御全球化篡改方面不那么稳健；例如使用翻译系统、使用另一个生成模型重新措辞，或要求模型在每个单词之间插入一个特殊字符，然后删除该字符"。

因此，OpenAI 写道，这种方法 "很容易被坏人规避"。OpenAI 的更新还回应了发言人关于非英语使用者的观点，写道文本水印可能会 "玷污人工智能作为非英语母语使用者的有用写作工具的使用"。

编译：ChatGPT

-----------END-----------