抄袭识别软件「太糟糕！AI抄袭检测软件不断诬告学生作弊」

6月7日 消息:为了防止学生用AI写论文，有些高校采用了AI抄袭检测软件，但这对有些学生可能是一个噩梦。因为有学生被诬告使用人工智能在论文上作弊，然后在学校调查期间被迫为自己的名字辩护。

正如《滚石》杂志报道的那样，加州大学戴维斯分校（University of California Davis）即将毕业的大四学生路易丝·斯蒂弗斯(Louise Stivers)的一篇论文被抄袭检查软件Turnitin标记。

在没有外界支持的情况下，斯蒂弗斯被迫为自己辩护，并证明她没有使用人工智能聊天机器人来写论文，这增加了她完成最后一个学期的压力。她争辩说，甚至她的成绩也因此开始下滑。

这一事件凸显了Turnitin等工具的重大缺陷，以及它们如何越来越多地被用来诬告学生使用人工智能在课堂上作弊。

斯蒂弗斯后来了解到，她甚至不是唯一一个被错误地指控基于人工智能检测软件作弊的加州大学戴维斯分校学生。就在今年早些时候接受学术诚信审查的前几天，《今日美国》发表了一篇类似的报道，历史专业威廉·夸特曼（William Quarterman）称，他的教授在使用人工智能检测工具GPTZero后不及格，并错误地指控他抄袭。因此，夸特曼不得不经历与斯蒂弗斯相同的自证过程。

像Turnitin和GPTZero这样的工具的检测似乎并不准确。有用户对这两款工具进行测试时，发现GPTZero远远没有达到标准。即使是ChatGPT制造商OpenAI自己的检测应用程序也未能可靠地区分人类编写的文本和AI生成的文本。

最终，学校管理人员向Stivers承认，Turnitin的AI检测工具正处于beta测试阶段，并且已经“抢先体验”了它。该软件公司在其网站上承认，尽管据称准确率为98%，但存在“误报”。

据斯蒂弗斯说，学校还没有道歉。简而言之，她被迫为软件的错误负责——这可能会影响她的职业生涯。这是一个令人担忧的现实。随着学者们使用存在严重缺陷的人工智能抄袭检测应用程序，在不久的将来，更多的学生可能会被错误地指控，这可能会对他们造成毁灭性的后果。