跳到内容

照亮世界的知识

如何辨别文本是否由AI编写:AI检测器可靠吗?

如何辨别文本是由AI编写的?AI检测器的可靠性如何、它们为什么会出错,以及教师、编辑和读者可以注意的警示信号。

如何辨别文本是否由AI编写:AI检测器可靠吗?

“如何辨别文本是否由AI编写?”这是从教师到编辑的每个人都在关心的问题。简短的回答可能会让人感到意外:没有任何方法可以百分之百确定某段文本是用像ChatGPT这样的工具编写的。所谓的AI检测器可以提供线索,但它们经常出错。

AI检测器是如何工作的?

这些工具用于衡量文本的“可预测性”。由于语言模型倾向于在每一步选择最有可能出现的词,平淡、整齐的句子可能会被标记为AI生成。问题在于,写作简单且正确的个人也可能表现出相同的特征。

为什么AI检测器不可靠?

  • 误报:斯坦福大学研究人员在2023年的一项研究发现,流行的检测器以非常高的比率将非英语母语写作者的文本标记为AI生成。
  • 容易欺骗:稍微重写文本或用另一个工具进行编辑会使评分发生戏剧性的变化。
  • 连制作者都持谨慎态度:OpenAI在2023年撤下了自己的文本分类器,理由是其准确率较低。

文本可能是由AI编写的迹象

这些本身都不是证据;它们只是需要仔细审查的原因:

  • 对主题的泛泛而谈,没有个人经验或原创例子。
  • 不存在的来源、虚构的引文或错误的日期(AI“幻觉”)。
  • 风格明显不同于学生或写作者以前的作品。
  • 适合几乎任何问题而不是所提问题的通用结构。

教师和编辑可以做什么?

  • 查看过程:草稿、笔记和版本历史比最终文本提供的信息要丰富得多。
  • 进行简短的对话:要求作者解释内容是最可靠的检查方法之一。
  • 检查来源:虚构的参考文献很快就会浮出水面。
  • 制定明确的规则:提前说明何时以及如何使用AI。

常见问题

Turnitin能检测出AI吗?

像Turnitin这样的平台提供AI指示器,但它也是一个概率估计。制作者本身建议不要单独使用评分来做出决定。

谷歌会惩罚AI编写的内容吗?

谷歌表示,它较少关注内容是如何制作的,而更多关注内容是否有用、准确和原创。仅为操纵搜索排名而批量生产的内容违反了其政策。

来源

  1. Liang et al., “GPT detectors are biased against non-native English writers”, Patterns, 2023.
  2. OpenAI, “New AI classifier for indicating AI-written text” (July 2023 update).
  3. Google Search Central, guidance on AI-generated content.
分享
关注 YulaHub第一时间获取当天最重要的新闻。
RSS

发表评论

您的电子邮箱地址不会被公开。必填项已用 * 标注