OpenAI 秘密工具揭晓

OpenAI 构建了一个水印工具，可以检测一段文本是否由 ChatGPT 编写（准确率为 99%）——旨在防止学生在书面作业中作弊——但由于内部冲突，拒绝发布它。

• 该工具会在 ChatGPT 生成的文本中添加水印（人眼不可见），当通过 AI 检测工具运行时，该水印会被拾取，该工具会对文本进行评分，以确定其由 AI 创建的可能性。

• 该功能已准备就绪一年，但 OpenAI 担心它可能会给非英语母语人士的 AI 写作工具带来污名，并认为水印很容易被删除，从而容易受到不良行为者的攻击。

• 他们还担心这会阻止人们使用 ChatGPT——影响其底线——因为他们进行的一项调查结果显示，如果实施水印，30% 的 ChatGPT 用户将减少使用该工具。