Notebookcheck Logo

可检测 ChatGPT 文本 - 模型可靠地识别人工智能剽窃行为

人工智能可以做很多事情,包括剽窃。(pixabay / geralt)
人工智能可以做很多事情,包括剽窃。(pixabay / geralt)
堪萨斯大学的一个程序声称能够可靠地揭开 99% 的人工智能生成文本的面纱。与之前试图将人工生成的文本与人类文本自动分离的尝试相比,这是一个巨大的进步。
AI Science

ChatGPT 的文章应尽可能自然,以人工智能所训练的人类写作为蓝本。因此,很难将此类剽窃文本与实际写作区分开来。

以前尝试自动检测人工智能生成的文本时,在某些情况下成功率远低于 50%。这使得 99% 的成功率听起来非常不同,也更有希望。

堪萨斯大学的一个团队于 2023 年 11 月 6 日在sciencedirect.com 上发表了他们的研究成果。堪萨斯大学的一个团队于2023年11月6日在sciencedirect.com上发表了他们的研究成果。

工作范围狭窄

在测试设置中,来自 13 种科学期刊(均涉及化学)的文章与来自 GPT-3.5 或 GPT-4 的总共 200 篇文章进行了比较。

据作者称,这些文本中有 198 篇被识别为人工智能生成的文本,识别率达到 99%。这主要基于 20 个文本特征,如句子长度可变、某些单词或标点符号的典型出现。此外,还利用化学领域的大量科学文本进行了训练。

科学文本的经典结构和语言以及对某一学科领域的关注相结合,造就了该系统的可靠性。

然而,在使用新闻网站文章进行的进一步测试中,检测器完全失灵。几乎没有一篇人为制造的新闻被识别出来。

尽管如此,使用针对特定主题领域的文本分析等工具就能获得如此高的成功率,似乎还是很有希望的。

Please share our article, every link counts!
Mail Logo
> Notebookcheck中文版(NBC中国) > 新闻 > 新闻档案 > 新闻档案 2023 11 > 可检测 ChatGPT 文本 - 模型可靠地识别人工智能剽窃行为
Mario Petzold, 2023-11- 8 (Update: 2023-11- 8)