用魔法打败魔法?ChatGPT杀手——GPTZero诞生历程

自2022年11月上线以来,人工智能聊天机器人ChatGPT在教育领域引起了巨大的波澜。众多学生已经将ChatGPT封神,甚至称呼ChatGPT为“论文亲爹”,我虽然非常不认可这种叫法,但是也不得不承认ChatGPT的强大。

该机器人能够非常逼真地模拟人类语言和写作,使许多教育工作者质疑,在学生可以轻松自由地使用这样一个免费的快捷方式的情况下,基于论文的学习该如何继续。事实上,已经有大学生因使用这个工具而被发现作弊。

为了更深入地了解这个问题,我在二月份进行了大量的网络调查,并查询了各个学校的学生在学业中了解和使用ChatGPT的情况,结果毫不意外,在经过大量的搜索并分析后,大致结果如下:

30%的大学生在书面作业中使用ChatGPT在这个使用群体中,近60%的人在一半以上的作业中使用它。3/4的ChatGPT用户认为使用它是作弊,但仍然使用它30%的大学生使用ChatGPT完成书面作业,而当被问及在调查开始前是否熟悉ChatGPT时,46%的受访者表示之前已经知道ChatGPT,而54%的受访者不知道。在那46%熟悉ChatGPT的人中,64%(总样本的30%)表示他们已经使用过它来帮助完成书面作业。

在ChatGPT用户中,60%的人估计他们在总书面作业中使用该工具的比例为50%或更高。

根据最新的消息,香港大学(HKU)已于上周五临时禁止学生在课程、作业和考核中使用ChatGPT或其他基于人工智能的工具,成为这个地区首个也是唯一一个实行此类禁令的学校

我们在去年送出去的一位香港大学的Zoe同学向我们提供的邮件中我们得知:香港大学的教学副校长Ian Holliday表示,香港大学需要一些时间起草长期的AI工具政策。

他在邮件中说道:“我们需要采取短期政策作为临时措施。我们禁止在HKU使用ChatGPT或任何其他基于AI的工具,无论是在课堂上,作业中,还是其他方面。”Ian Holliday同时表示,如果学生想使用基于AI的应用程序,必须得到课程讲师的书面同意,否则任何违规行为都将被视为潜在的剽窃行为。

目前香港大学教师要求学生进行额外的口头考试或其他考试,并采取其他措施,以了解是否有违规行为的嫌疑,与此同时更多的大学计划通过在课堂上让学生开始写作草稿来改变书面作业的方法,以防止抄袭。

除了香港大学,在我们的调查中得知,许多教育工作者同样正在烦恼是否将ChatGPT纳入他们的课程或彻底禁止它。根据我们的调查结果,46%的受访者表示他们的教授和/或学校已经禁止ChatGPT用于作业,而29%的受访者表示他们没有禁止它,26%的受访者不确定。反对ChatGPT的论点在于这些AI工具破坏了教育的目的,即获得知识和技能。

有矛既有盾,有ChatGPT作为学生的矛,则GPTZero便是学院导师们手中的盾。

GPTZero是一种工具,旨在检测由ChatGPT生成的写作内容。GPTZero由普林斯顿大学计算机科学专业高年级学生Edward Tian创建,这个名字可能会是日后大量使用ChatGPT学生们的暗杀名单上置顶的悬赏。

这位大兄弟出生在东京,在北京和多伦多之间长大,他的父母都在北京做软件工程师,而他的祖母也是一位毕业于清华大学的电子工程师,他认为祖母是他人生中最大的灵感之一。Edward Tian现在就读于普林斯顿大学,同时也是校报《普林斯顿人日报》的学生记者。暑假期间,他在微软公司做软件工程实习生。

解到背景后,我似乎也很能理解为什么这位大兄弟会发明GPTZero,毕竟Tian兄弟的祖母拿到的可是叶文洁的剧本啊。(此处应有三体党的掌声)

GPTZero的原理是通过测量文本的“困惑度”和“爆发度”来检测AI生成的文本。“困惑度”是一种衡量文本随机性的度量标准,同时也是衡量文本是否对语言模型(如ChatGPT)熟悉的标准。如果一段文本非常随机、混乱或对语言模型来说很陌生,它就会有很高的困惑度,并且更有可能是人类生成的。相反,文本如果非常熟悉并且语言模型可能已经看过,它对模型来说就不会很困惑,更可能是AI生成的。

而“爆发度”则是指的是句子的复杂度。人类往往会变换句子长度,并且在写作中会有“爆发”,而AI语言模型则更加一致。这一点可以通过创建句子变化图表来看到。对于人类的文章,变化会遍布整个图表,会上上下下起起伏伏,而机器写的文章会相当无聊,会有一个恒定的基线。

所以我基本上可以确定日后任何非人工生产的内容将会面临类似GPTZero之类的检测工具的挑战。我也明白,即使ChatGPT和其他AI语言模型得到改进,像GPTZero和其他AI检测软件这样的技术也将保持同步。毕竟训练检测模型比训练这些巨大的语言模型要容易得多。要训练这些ChatGPT这类巨大的语言模型动辄需要耗费数百万美元,而检测工具的训练成本对比起来几乎可以忽略不计。

另外一个对各大院校的好消息是,GPTZero已经明确会免费开放给各大教育机构免费使用以确保学术的诚实。

我相信这又是一个众筹的杀手的理由了。

而与此同时,一些学生认为ChatGPT很有帮助,但学校需要考虑如何更加谨慎地将AI工具融入教学和学习中。

“我正在接受ChatGPT帮助我教授平面设计,这意味着我与学生一起探讨如何通过文本、图像和空间之间的关系以创造性的方式进行沟通,”堪萨斯城艺术学院的教授Lisa Maione曾经公开评论道。

她说:“我将ChatGPT作为我们项目的合作伙伴。随着我们的部门接受基于探究的教育模式,ChatGPT是我们可以考虑一个问题如何影响我们对答案的理解的另一个对手方……我希望ChatGPT与我们所使用的所有模拟和数字工具一样,成为我们具有创造性和批判性工作的有趣伙伴。”

“ChatGPT不能取代批判性思维、批判性阅读或批判性写作,”Maione提醒道。“在某种程度上,我感觉这个工具将鼓励我的学生和我更多地阅读、写作和编辑。”另外还有28%的学生还认为,他们的导师“可能”(23%)或“绝对”(5%)不知道他们在作业中使用了该工具。

虽然我并不认为使用ChatGPT是作弊,只要产生的作品仍然是原创的,而不是剽窃的。但是,有些人可能认为它是一种学术不诚实的形式。使用ChatGPT对学生来说可以是一个有用的工具,但是重要的是要负责任和道德地使用它,学生们转向ChatGPT和类似工具的主要原因之一是为了节省时间和精力。然而,使用这些工具来完成作业并不真正反映出学生对课业本身的理解与真实能力。

在我看来,最好将ChatGPT或任何类似的工具用作灵感的来源,但所有的实际写作和结构都应由学生本人亲自完成。大学的学习过程本质上是培养学生的批判意识和独立思考,以确保ChatGPT能成为一个有趣的工具,帮助学生更多地阅读、写作和编辑,而不是取代这些关键技能。

最后我相信这整个事情的最优解是找一位又专业又贴心的导师从根本上解决问题,既不用众筹也不需要自己冒着被抓包等风险跑并不成熟的AI工具让三年大学生活下来成为了一名光荣的:“提示工程师(Prompt Engineering)”。香港大学的Zoe同学目前感觉良好,有LunwenHelp学术导师的帮助,他并不担心学校对ChatGPT的封禁政策,祝他学业顺利,身体健康。

猜你喜欢

转载自blog.csdn.net/lunwenhelp/article/details/131299381