扫码阅读
手机扫码阅读

AI生成的东西越来越真实,你该如何分辨

50 2024-03-30

ChatGPT的出现,改变很多职场人士的工作习惯,同样在学校里的中学生、大学生写作业、论文的方式也在进行极大的改变,有些学校甚至禁止使用ChatGPT,因为长此以往会导致学生的思考和创造能力下降,以及对学科知识的理解能力不足,影响学术诚信。

学校如此,生活、学习、工作中也同样有类似的困扰,但对使用者而言,这肯定是个灾难。

除了靠人眼识别外,有没有一些工作可以辅助我们来做一些检测。

OpenAI AI Text Classifier

platform.openai.com/ai-text-classifier

它是一个经过微调的 GPT 模型,可以预测一段文本由 AI 从各种来源(例如 ChatGPT)生成的可能性,该分类器可作为免费工具使用,以引发关于 AI 素养的讨论。当前使用有一些字数限制,达不到1000个字符是无法使用的,如果是其模型生成的内容,准确率上可能不会那么高。

OpenAI GPT-2 Output Detector Demo

openai-openai-detector.hf.space

是openai/gpt-2-output-dataset项目的一个Demo案例应用

从名字可以看出来,是目前对 ChatGPT 文本进行分类分析的最佳模型,尽管是个Demo,威力还是很大的。

GPTZeroX

gptzero.me/

这个反作弊产品的在圈里知名度估计是最高的吧,由华人小哥Edward Tian打造,今年22岁,英雄出少年,他辅修认知科学和新闻学,对软件工程、机器学习等有浓厚的兴趣,果然还是兴趣是最好的老师。GPTZero 在北美的大学、新闻机构里应用可谓是相当广泛。

而且还提供了API访问,只需要提供申请就好。

DetectGPT by Stanford University

detectgpt.ericmitchell.ai

看名字就能闻到很浓厚的学术气息,斯坦福大学的研究人员在学生的成长上也是花费了极大的心思。DetectGPT 是一种通用方法,用于使用语言模型来检测其自身的生成;但是,此概念验证仅检测一段特定文本是否来自GPT-2,对来自其他模型的样本的检测可能特别不可靠。检测结果也是有理有据,让你明白,他不是在瞎胡诌。


就像矛和盾,科技无善恶,一方面科技在极大的帮助社会进步,另一方面也在对一些群体造成极大的困扰。

如果你写了篇方案感觉心里没底,不妨用上面的这些工具来调整下

原文链接: http://mp.weixin.qq.com/s?__biz=MzIwMjE3MDIwMA==&mid=2247487487&idx=1&sn=2cd5a6598deb7ef50bec012e0d6c33a0&chksm=96e385c8a1940cde02f5b1cd6759f5260905d367f7150d19961db06bcb49fc55497c96b48e1c#rd