因准确率低OpenAI 取消了 AI 文本检测器_ai识别准确率

7月26日 消息:OpenAI 因其 AI 文本检测器表现不佳而下架了该工具。该分类器无法准确区分文本是由人类编写还是由大型语言模型自动生成。OpenAI 在其在线工具的公告中发布了一份简短声明，表示由于准确率低，该人工智能分类器自2023年7月20日起不再可用。

该分类器是免费使用的，用户可以将文本复制粘贴到其中，以判断其是否由计算机或人类生成。这对于确认电子邮件、博客文章或文章是否由人类编写非常有用。该分类器由一个大型语言模型支持，该模型对可能由软件生成的内容进行排名，从 “非常有可能” 到 “不清楚” 到 “可能”。

然而，OpenAI 当初警告称，该人工智能分类器并不完全可靠，很容易将人类编写的文本错误地标记为机器编写。虽然 OpenAI 支持使用该分类器，但他们也表示不应过分依赖诸如 ChatGPT 等机器人。

OpenAI 的人工智能分类器在处理训练数据集中未见过的散文方面表现不佳，并且对于人工智能生成和人类编辑的写作效果也不理想。分类器有时对错误的预测非常自信。

OpenAI 推出该人工智能分类器的原因之一是对未来充斥机器生成内容的担忧。然而，类似的工具由其他开发者和公司开发，它们也都不可靠，对学生的教育造成了真正的影响。例如，美国德克萨斯农工大学商业分校的一名讲师因 ChatGPT 将其文本标记为机器生成而扣留了一些成绩，这事情成为了新闻头条。后来，该大学恢复了学生的成绩。

与此同时，Turnitin 开发的人工智能软件已经在学校和大学中推广，它声称可以以 “98% 的置信度” 解决抄袭问题，但该软件的准确性尚不清楚。马里兰大学的计算机科学家进行的研究表明，现有的最佳分类器准确检测机器编写文本的几率与抛硬币差不多。OpenAI 目前仍在努力解决这个难题。

最近，他们宣布他们将为人工智能生成的内容开发数字水印，这是他们向美国政府做出的承诺的一部分，旨在帮助未来的机器学习技术安全使用。 至于新版本分类器的预计发布日期以及更多评论，The Register 已经向 OpenAI 发出了请求。