“如何辨别文本是否由AI编写?”这是从教师到编辑的每个人都在关心的问题。简短的回答可能会让人感到意外:没有任何方法可以百分之百确定某段文本是用像ChatGPT这样的工具编写的。所谓的AI检测器可以提供线索,但它们经常出错。
AI检测器是如何工作的?
这些工具用于衡量文本的“可预测性”。由于语言模型倾向于在每一步选择最有可能出现的词,平淡、整齐的句子可能会被标记为AI生成。问题在于,写作简单且正确的个人也可能表现出相同的特征。
为什么AI检测器不可靠?
- 误报:斯坦福大学研究人员在2023年的一项研究发现,流行的检测器以非常高的比率将非英语母语写作者的文本标记为AI生成。
- 容易欺骗:稍微重写文本或用另一个工具进行编辑会使评分发生戏剧性的变化。
- 连制作者都持谨慎态度:OpenAI在2023年撤下了自己的文本分类器,理由是其准确率较低。
文本可能是由AI编写的迹象
这些本身都不是证据;它们只是需要仔细审查的原因:
- 对主题的泛泛而谈,没有个人经验或原创例子。
- 不存在的来源、虚构的引文或错误的日期(AI“幻觉”)。
- 风格明显不同于学生或写作者以前的作品。
- 适合几乎任何问题而不是所提问题的通用结构。
教师和编辑可以做什么?
- 查看过程:草稿、笔记和版本历史比最终文本提供的信息要丰富得多。
- 进行简短的对话:要求作者解释内容是最可靠的检查方法之一。
- 检查来源:虚构的参考文献很快就会浮出水面。
- 制定明确的规则:提前说明何时以及如何使用AI。
常见问题
Turnitin能检测出AI吗?
像Turnitin这样的平台提供AI指示器,但它也是一个概率估计。制作者本身建议不要单独使用评分来做出决定。
谷歌会惩罚AI编写的内容吗?
谷歌表示,它较少关注内容是如何制作的,而更多关注内容是否有用、准确和原创。仅为操纵搜索排名而批量生产的内容违反了其政策。
来源
- Liang et al., “GPT detectors are biased against non-native English writers”, Patterns, 2023.
- OpenAI, “New AI classifier for indicating AI-written text” (July 2023 update).
- Google Search Central, guidance on AI-generated content.
发表评论
您的电子邮箱地址不会被公开。必填项已用 * 标注