前两天，我们刚报道了斯坦福大学研究出了一个名为 DetectGPT 模型，该模型可以检测出文本段落是否是由一个给定的大型语言模型（LLM）生成的，斯坦福大学将使用 DetectGPT 来应对学生使用 ChatGPT 等 AI 工具作弊和生成论文的现象。
这才没过几天，ChatGPT 的开发商 OpenAI 就决定亲自上阵发布了一个免费的网络工具 AI Text Classifier（需登录 OpenAI 账号使用），这个工具的目的跟 DetectGPT 一样，也是帮助用户识别某一段文本是由人类还是机器写的。
这个工具的使用方式也很简单，用户只需要将一段文字复制到文本框中，系统会对该文本是由 AI 系统生成的可能性进行判断，判断结果从「非常不可能 —— 很有可能」共分成了 5 个等级。
AI Text Classifier 不仅可以检测 ChatGPT 生成的文本，还可以检测其他同类 AI 工具生成的文本。只不过根据 OpenAI 的说法，该工具的准确性目前似乎不是很高。
AI Text Classifier 可以正确地将 26% 的 AI 生成文本识别为「可能是 AI 写的」，而将人类写的文本错误地标记为是由 AI 写的的情况有 9%。
因此，OpenAI 的负责人 Jan Leike 也强调到，这个工具并不完美，既会产生误报也会产生漏报，用户不应该仅仅依靠这一个工具来确定文本的作者。
除了判断结果不够精确以外，OpenAI 还表示该工具更擅长分析由 1000 个以上字符组成的英语文本。AI Text Classifier 不能可靠地评估更短的或用其他语言写的文本片段。此外，该工具也不能准确检测 AI 生成的计算机代码。
从上面的结果来看，为了避免 “冤案错案”，AI Text Classifier 暂时还不适合老师使用。当然，OpenAI 已经了解到教育和其他领域对 AI 生成文本的担忧，他们正在研究其他方法，以帮助人们区分 AI 生成的文本和人类创作的文本。
评论删除后，数据将无法恢复
OpenAI 亲自上阵，推出 AI 文本检测工具
前两天，我们刚报道了斯坦福大学研究出了一个名为 DetectGPT 模型，该模型可以检测出文本段落是否是由一个给定的大型语言模型（LLM）生成的，斯坦福大学将使用 DetectGPT 来应对学生使用 ChatGPT 等 AI 工具作弊和生成论文的现象。
这才没过几天，ChatGPT 的开发商 OpenAI 就决定亲自上阵发布了一个免费的网络工具 AI Text Classifier（需登录 OpenAI 账号使用），这个工具的目的跟 DetectGPT 一样，也是帮助用户识别某一段文本是由人类还是机器写的。
这个工具的使用方式也很简单，用户只需要将一段文字复制到文本框中，系统会对该文本是由 AI 系统生成的可能性进行判断，判断结果从「非常不可能 —— 很有可能」共分成了 5 个等级。
AI Text Classifier 不仅可以检测 ChatGPT 生成的文本，还可以检测其他同类 AI 工具生成的文本。只不过根据 OpenAI 的说法，该工具的准确性目前似乎不是很高。
因此，OpenAI 的负责人 Jan Leike 也强调到，这个工具并不完美，既会产生误报也会产生漏报，用户不应该仅仅依靠这一个工具来确定文本的作者。
除了判断结果不够精确以外，OpenAI 还表示该工具更擅长分析由 1000 个以上字符组成的英语文本。AI Text Classifier 不能可靠地评估更短的或用其他语言写的文本片段。此外，该工具也不能准确检测 AI 生成的计算机代码。
从上面的结果来看，为了避免 “冤案错案”，AI Text Classifier 暂时还不适合老师使用。当然，OpenAI 已经了解到教育和其他领域对 AI 生成文本的担忧，他们正在研究其他方法，以帮助人们区分 AI 生成的文本和人类创作的文本。