|
人工智能变得越来越复杂，有人说能够写学术论文。但AI的入侵在什么时候构成作弊呢？  “在讲堂前等待我的下一节课开始，我旁边有两个学生正在讨论哪种 AI 程序最适合写他们的论文。这是我要标记的吗？人工智能论文？” 历史学家卡拉·约内斯库 (Carla Ionescu)上月下旬发布的推文反映了人们对人工智能对传统大学评估的影响越来越感到不安。“No. No way,” 她在推文中说“Tell me we’re not there yet.” 但人工智能敲响大学大门已有一段时间了。 2012 年，计算机理论家 Ben Goertzel提出了他所谓的“机器人大学生测试”，认为能够以与人类相同的方式获得学位的人工智能应该被认为是有意识的。 Goertzel 的想法——更著名的“图灵测试”的替代方案——可能仍然是一个思想实验，如果不是因为 AI 使用自然语言处理 (NLP) 的成功：最著名的是GPT-3，OpenAi 创建的语言模型研究实验室。 两年前，计算机科学家 Nassim Dehouche 发表了一篇文章，证明 GPT-3 可以产生可信的学术写作，而通常的反剽窃软件无法检测到。 “[我] 发现输出结果，”Dehouche 告诉澳大利亚卫报，“无论是在可靠性还是原创性方面，都与优秀的本科生论文没有区别。[我的文章]最初的副标题是“最好的行动时间是昨天，其次是现在”。它的目的是呼吁迫切需要至少更新我们对剽窃的概念。” “对于有抱负的作家来说，这将是一个很好的练习，”他说，“是一种反向图灵测试：'你能写一页人工智能无法生成的文本，并解释原因吗？' 据我所知，除非有人报告原始数学定理及其证明，否则这是不可能的。但我很想被证明是错误的。” 许多其他人现在也有同样的紧迫感。在新闻和评论文章中，GPT-3 令人信服地写了它是否对人类构成威胁（它说它没有），以及 Bob Dylan 和 William Shakespeare 风格的关于虐待动物的文字。 一篇关于 AI 论文写作的 2021 年福布斯文章在一个戏剧性的插曲中达到了高潮：“这篇关于使用 AI 写学校论文的文章，”它解释说，“是使用人工智能内容写作工具写的”。 当然，科技行业在毫无根据的炒作中蓬勃发展。上个月，S Scott Graham 在为Inside Higher Education撰写的一篇文章中谈到鼓励学生使用该技术完成作业，结果喜忧参半。最好的情况，他说，会满足最低要求，但仅此而已。较弱的学生感到挣扎，因为给系统有效的提示（然后编辑它的输出）需要足够高水平的写作技能，而这其实使人工智能变得多余。 “我强烈怀疑，”他总结道，“完全由机器人写作的作品将永远'指日可待’”。 这可能是正确的，尽管就在一个月前，Slate 的 Aki Peritz 得出了恰恰相反的结论，他宣称 “通过一些练习，学生可以使用 AI 来写他或她的论文，所用时间仅为正常情况下的一小部分拿”。 然而，高等教育面临的挑战不能简单地简化为“全机器人写作”。 如果软件可以通过算法改写学生的句子，为什么它不能对段落做同样的事情呢？ 大学不仅要面对完全由算法生成的论文或作业：它们还必须裁定无数更微妙的问题。例如，人工智能文字处理器习惯性地建议我们不合语法的短语的替代方案。但是，如果软件可以通过算法重写学生的句子，为什么它不能对段落做同样的事情——如果是段落，为什么不能是一页呢？ 人工智能的入侵在什么时候构成作弊？ 迪肯大学的 Phillip Dawson 教授专攻数字评估安全。 他建议将人工智能仅仅视为一种称为认知卸载的技术的新形式。 “认知卸载，”他解释说，“当你使用一种工具来减轻一项任务的精神负担时。它可以像写下一些东西一样简单，这样您以后就不必试图记住它了。长期以来，围绕认知卸载工具存在道德恐慌，从苏格拉底抱怨人们使用书写来假装他们知道某事，到袖珍计算器的首次出现。 道森认为，随着人工智能越来越多地融入更高层次的任务，大学应该向学生明确特定评估允许的认知卸载的形式和程度。 “我认为我们实际上会教学生如何使用这些工具。我认为我们不一定要禁止它们。” 毕竟，大学为学生准备的职业很快也会依赖人工智能，尤其是人文学科。以新闻业为例。2019 年对来自 32 个国家/地区的 71 家媒体机构进行的一项调查发现，人工智能已经成为“新闻业的重要组成部分”，被部署用于新闻收集（例如，获取信息或识别趋势）、新闻制作（从自动事实检查器到财务报告的算法转换）和新闻分发（个性化网站、管理订阅、寻找新受众等）。那么，为什么新闻教育工作者要惩罚学生使用可能对他们未来职业生涯至关重要的技术呢？  Dawson 说：“我认为我们现在可以很好地了解专业人士在这些工具方面做了什么，以及他们将来可能会用这些工具做什么，我们将尝试使这些能力映射到我们的课程中。这意味着弄清楚如何引用它们，这样学生就可以说：我让 AI 来做这件事，然后那是我自己做的。” 然而，制定关于何时何地可以合法使用人工智能的政策是一回事——而执行这些政策则是另一回事。 Helen Gniel 博士领导着名为高等教育质量和标准局(TEQSA) 的高等教育诚信部门，该机构是澳大利亚高等教育的独立监管机构。 和道森一样，她认为围绕人工智能的问题在某种意义上是一个机会——机构有机会“思考他们正在教授什么，以及在这种情况下评估学习的最合适方法”。 透明度是关键。 “我们希望机构围绕人工智能的使用定义他们的规则，并确保将期望清楚地定期传达给学生。” 算法可能会在一个无限的过程中标记其他算法的输出，但在这个过程中什么也学不到。 她指出 ICHM、健康管理研究所和弗林德斯大学这三个AI写作工具提供者现在有明确的政策，弗林德斯大学将提交“由算法、计算机生成器或其他人工智能生成”的作品标记为“合同作弊”的一种形式。 但这又引发了其他问题。 8 月，TEQSA封锁了大约 40 个与更传统形式的合同作弊相关的网站——向学生出售预写论文。这些网站每月收到的 450,000 次访问，表明 AI 写作具有巨大的潜在市场，因为那些曾经花钱请人代写的人转而转向数字替代品。 西澳大利亚大学 Guy Curtis 博士的研究发现，非英语背景的受访者购买论文的可能性是英语为第一语言的受访者的三倍。这个数字无疑反映了近500,000 名在澳大利亚机构上课的国际学生所承受的压力，他们可能会在工作不稳定、生活成本、社会孤立和外语评估的固有困难等方面苦苦挣扎。 但人们也可以注意到合同作弊的扩大与高等教育转变为利润丰厚的出口产业之间更广泛的关系。如果大学学位仅仅是一种可以买卖的产品，那么失败的学生决定求助于外部承包商（无论是人工还是算法）可能看起来只是一种理性的市场选择。 这是人工智能如何对教育的本质提出令人不安的问题的另一个例证。 Ben Goertzel 将他的“机器人大学生测试”想象成“通用人工智能”的展示：人类智力的数字复制。但这不是 NLP 涉及的内容。相反，正如Luciano Floridi 和 Massimo Chiriatti 所说，对于人工智能，“我们正在越来越多地将有效解决问题的能力……与任何需要智能化的需求脱钩”。  新的人工智能在海量数据集上进行训练，搜索大量信息，以便它们可以推断出对文本和其他提示的合理响应。Emily M Bender 和她的同事将语言模型描述为“随机鹦鹉”，它“根据关于它们如何组合的概率信息，随意 [缝合] 它在其大量训练数据中观察到的语言形式序列，但没有任何参考意义”。 因此，如果可以在不理解其含义的情况下通过评估任务，那么这些任务究竟评估了什么？ 华威大学的 Thomas Docherty在他 2011 年出版的《大学的民主与未来》一书中建议，公司化教育用“有效和受控的信息管理”取代开放式和不稳定的“知识”，评估要求学生只是为了证明他们已经获得了“知识”数据库的访问权……然后他们在将剪切和粘贴的部分组织成一个新整体的过程中操纵或“管理”了该知识。 “随机鹦鹉”在高等教育评估中的潜在熟练程度 为 Docherty 的论点提供了新的思路，证实了这些任务实际上并没有衡量知识（AI 天生缺乏），而只是信息传递（AI 擅长） . 换句话说，人工智能给教育部门带来的问题超出了可能采取的任何直接措施来管理学生对此类系统的使用。例如，人们可以想象这项技术促进了“无聊的反乌托邦”，进一步降低了大学已经被企业要求侵蚀最严重的那些方面。毕竟，高等教育已经在用于评分的 AI 系统上投入了大量资金，因此，从理论上讲，算法可能会在一个无限的过程中标记其他算法的输出，但在这个过程中什么也学不到。 但也许，只是也许，人工智能的挑战可能会鼓励其他事情。也许它可以促进关于教育是什么以及最重要的是我们希望它成为什么的对话。人工智能可能会促使我们认识到真正的知识，因此，随着未来的大学对技术的拥抱，会重新认识使我们成为人的东西。  https://www./australia-news/2022/nov/19/full-on-robot-writing-the-artificial-intelligence-challenge-facing-universities |
|
|
来自： 菌心说 > 《AI、人工智能、神经网络、深度学习》
