OpenAI发布ChatGPT人工智能文本生成检测工具

​ChatGPT

ChatGPT是OpenAI 2022年11月推出的交互式自然语言对话模型。OpenAI使用RLHF（从人类反馈中进行强化学习）来训练ChatGPT，与InstructGPT使用的方法相同，但数据收集设置时有明显的差别。在训练初始模型时使用有监督调整（参）：人类AI训练器提供的会话。训练员有访问模型建议的权限以帮助训练器更好地完成响应。然后将新生成的会话数据集与InstructGPT数据集混合，形成对话格式。

ChatGPT发布后在业界引发了震动，随后给各方广泛试用，其中就包括学生。有学生试用ChatGPT来写论文、作业和编写程序，并且老师很难分辨论文、作业和编写的程序是否是由学生自己完成的。此外，还出现了很多署名ChatGPT的待发表论文。

为应对这一问题，全球学校纷纷采取措施，比如禁用该平台。根据BusinessInsider的数据，ChatGPT目前已被纽约、西雅图、洛杉矶等地的初高中禁用，法国和印度的大学计算机也禁用了该平台。

ChatGPT检测工具

1月31日，OpenAI 宣布推出人工智能文本分类器，旨在检测输入内容是否是由ChatGPT这样的人工智能工具生成的。

OpenAI称其分类器并不完全可靠。在英文文本测试时，分类器正确识别了26%人工智能生成的文本，约9%人类写出的内容错误标记为人工智能生成的。随着输入文本长度的增加，分类器的性能有所提高。与之前其他分类器相比，该分类器的准确率高于其他检测分类器。

分类器试用地址：http://platform.openai.com/ai-text-classifier

OpenAI称由于结果并不完全可靠，因此不建议将该工具用作决策，而是作为其他检测工具和方法的补充。

 ChatGPT试用地址：https://chat.openai.com/

https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text

本文翻译自：https://www.bleepingcomputer.com/news/technology/openai-releases-tool-to-detect-ai-written-text/