|
文章转载自《湛庐文化》 ✦ 7月19日14：00，湛庐联合微软举办《GPT时代人类再腾飞》新书共读活动，多位行业大咖共同分享了对这本重磅新书的心得。 作为一名学者、教育工作者、写作者，北京大学新闻与传播学院教授胡泳老师在演讲中探讨了人工智能会如何影响人类创造力，以及我们应该如何与人工智能合作，迈向人类认知的更高阶段。 点击书封，马上入手👇
✦ ✦  我们相信还是可以谈的，并且能够做出一些事情来影响人工智能的发展。但是至于说它到底是什么样，将来怎么样，反正我是没有水晶球的，就是姑妄言之，大家也姑妄听之。 从ChatGPT的具体应用上来讲，ChatGPT其实是可以有很多创造性用途，比如可以回答 Stack Overflow的问题，可以替代谷歌，可以生成烹饪的菜谱，可以解决复杂的编程任务。而艺术家们受到打击的一个很大的东西，是图片生成器。当然，ChatGPT也可以从头开始构建应用程序和网站。 很多时候，我们期待把这些东西都实现了以后，是不是通用人工智能就到来了？对这个问题的回答是有争议的。至少在目前来讲，这些方法还不能够扩展成为一个通用人工智能，但它们的确是开始已经提供了人类水平的、甚至在某些领域超越了人类水平的结果，是可以击败人类的。那么如果ChatGPT在一个特定的领域或者应用当中能够做得非常好的话，就引出了我要问的一个核心问题——在人工智能时代，人类作为创造者到底意味着什么，还能干什么？ 1  ChatGPT给我们提了很大的问题，也是提了很多的问题，但我今天想展开讲讲创造力。它给我们的挑战是，我们怎么来重新定义创造力，乃至于认知。这是一个挑战，而我的分享分四个部分。第一部分讲到底ChatGPT对创造力产生了什么样的挑战。ChatGPT已经在人和机器之间构建了某种智能的合作伙伴关系，这种智能合作伙伴关系可以把我们的创新加速到一个前所未有的水平。 第二部分是我的一个个人结论，我认为人工智能无法取代人类的创造力，因为它不能够替代人类的智慧和洞察。 第三部分，我们一方面承认它不大可能替代人类的创造力，但是它的确有些地方是胜过人类的，所以我们可以具体分析一下人工智能工具的长短板。我在这里用了一个分类法（分类法跟我们的教育密切相关）。我们把人的认知或者思维分成六个层面，前三个分别叫记忆、理解、应用。我认为ChatGPT或者GPT这些技术在这三个层面上是做得非常好的。换言之，人类在这三种能力上要让位给ChaGPT，但是在后面三种，即更复杂的分析、评估和创造任务方面，我觉得它还赶不上人类。 之所以得出一个人工智能不能够替代人类创造力的结论，源于我们对人类的思维做了一个更精妙的分析，来看看到底什么地方它厉害，什么地方我们厉害。所以在第四部分，我的结论是，人类之所以为人类，核心的原因在于人类可以选择。GPT不会选择，做选择的永远是人类，这是我们跟机器的一个重要的关系：机器是可以做决定的，但是机器不会选择。 我们具体来看第一部分，就是人工智能的创造力。这不是个新话题，而是个很老的话题。大家都知道，第一个人类程序员是个女性，一位非常了不起的女性，她是拜伦的女儿。她嫁给了一个伯爵，所以她也叫埃达·洛芙莱斯伯爵夫人。她在很早的时候就思考一个问题，说如果一个机器只能做它被编程来做的事情，怎么能把它的行为定义为有创造性，它只是接受指令而已。 洛芙莱斯定义说，独立学习是创造力的一个基本特征。我觉得人类是在这个时候就已经开始思考人工智能的创造力问题了，只不过我们把它叫作计算创造力。这在今天已经变成了一个多学科的研究领域，但是我们必须承认，如果洛芙莱斯活到今天，她可能会非常震惊，大惊失色，她可能会怀疑自己的命题是不是还成立。因为会有很多人告诉她说，今天的机器学习已经变成了自学习，它不是人工编码的结果。 如果她苏醒了，我们就可以问她：伯爵夫人，请你回答一下，一些人工智能软件所表现出来的创造力是否仍然是简单执行人类工程师指令的结果？这个问题还真不好回答。有的人会毫不犹豫地说，肯定已经不是了，人工智能已经越过了“那个坎”，就连图灵测试也不在话下。 但是另外一些人会认为还是没有越过。我们就把这个问题留给计算机科学家或者人工智能研究者让他们去“打架”，但是我们发现说，随着大型语言模型的引入，它们的确是开始已经提供了人类水平的，在某些领域超越了人的结果，是可以击败人类的。  埃达·洛夫莱斯的银版照片，由安托万·克劳德特拍摄。可能拍摄于1843或1850年 我们会看到有两派人在这地方争论，一派人说人工智能是增强人类创造力的一种方式，相信创造力是人类所独有的，但我们不能够固步自封，我们可以把人工智能用来当我们的助手，让我们更加有创造力，所以这叫增强派。 另一派则认为，人工智能完全可以模仿人类的创造力，换言之，人工智能可以变成一个创造者。如果是这一派的话，我们要问的问题是，人类创造者的地位何在？人类创造者跟机器相比怎么样？
在创造力方面，人工智能到底能够走多远，应该走多远？注意，这是两个问题。它如果真的能走到某一个很远的地方，我们人类要不要它走那么远？可行和可欲是两件事，它可能可行，但是不是可欲的，你是不是希望它这样？ 如果人工智能可以产生高质量的创作，那么还需不需要人类创造者？《GPT时代人类再腾飞》就是里德·霍夫曼先生跟GPT-4一起合写的书。因为我也是个写作者，也写很多书，所以我会马上想到问自己一个问题：机器人来了，如果你写不过机器人，你还需要写吗？某一天你觉得说，我怎么写我也写不过机器人，这时候你就歇菜好了，你就把这块阵地让给机器人。 为什么我说人工智能现在还不能够替代人类的创造力，因为我做两种写作，一种写作叫学术写作，人工智能现在搞学术写作显然还不灵，首先它连最基本的信息源的真假它都辨别不了，因为我们写论文讲究各种各样的参考资料，这个关它现在还过不了。我不是说它永远过不了，而是目前它还过不了。 我的另一种写作是纯粹的创意写作，就从人工智能现在给出的那些比如说创意写作的例子，我觉得它写得很糟糕。它可能在某些地方会产生脑洞，因为它有大量的知识库在后面，所以用它来做创意工具很好。但是你要说让它写一个真正具有创意的文本，不管是散文、小说、戏剧，甚至将来可能是电影等，我觉得它达不到这个水平。所以大家一说到人工智能的东西，就说我们搞创作的人会觉得受到了威胁，但这威胁有多大，其实是要讨论的一个问题。 2  接下来进入我的第二部分，我们来分析一下什么叫创造力。当然，这也是个人的主观分析，因为说到底什么构成了创造力，可能是见仁见智的。 为什么说它不能够取代人类的创造力，有五个维度是目前的人工智能还没有完全逾越的。首先，创造力是一种独特的人类特质，它深深地扎根于我们的生物学和心理学。随着我们对人类的各种各样的机制（从语言学的机制到心理学的机制）的理解，人的很多东西还是其独有的。 其次，创造力的核心在于，它是以独特的和个人的方式表达情感和经验的能力，就是我们把情感维度引进来。 耶鲁大学计算机科学家格勒恩特尔提出，除非人工智能能够复制人类的情感，我们不认为人工智能有创造力，因为创造力跟情感之间的关系是非常密切的。可能有人会反驳说，人工智能难道没有情感吗？关于这一点我们知道很多故事，比如谷歌的工程师声称机器人已经有知觉了，还有《纽约时报》的科技专栏作家跟ChatGPT聊天，聊了以后大惊失色。他是跟必应的聊天机器人聊天，必应的聊天机器人说，你应该离开你妻子，你们俩不合适，你应该跟我生活在一起。这个记者说，我情人节的时候刚刚跟我的伴侣一起吃过饭，它说那也不行，你俩不合适，你一定要离开她。 你觉得这是人工智能有情感吗，我觉得见仁见智。它有点像是什么呢，我经常打一个比方，在《哈利·波特》的第一部里出现了一面镜子，这个镜子叫厄里斯魔镜，厄里斯魔镜是当然J.K.罗琳玩的一个文字梗，她把 Desire这个词倒过来拼就是Erised（厄里斯），这个魔镜的特点是你有什么欲望马上给你照出来。魔镜反映的是人自己想要什么，而不是像白雪公主里面一样，可以告诉你世界上最漂亮的女人是谁。照了魔镜以后，你此刻最想要的东西马上反映在魔镜上。我用这个打比方，其实是想说，所有的这些你觉得机器人拥有的情感之类的东西，其实是人类欲望的反写，你只是把你自己的东西加给它了。  第三个是环境，人之所以为人，是因为我们跟我们周边的环境是联系在一起的，你当然可以复制一个完美的机器人，但你要将某个人复制为机器人，还要复制这个人周围的所有环境，这是个浩大的工程。那么如果复制出来的机器人不能够复制环境里头不同层面的这种敏感度，如果它不能够辨识这些敏感度，那么严格来讲，就只是形成了一个跟周围的环境联系没有那么密切的机器人而已，所以环境是很重要的。另外一个，其实机器人是没有身体的，身体对人来讲极其重要，我觉得越是在人工智能时代身体就越重要，所以机器人没有身体，这也是个问题。 第四，人工智能缺乏想象力和直觉，创造力需要超越现有事物的思考能力和对新的可能性的想象力，而人工智能算法缺乏这种能力。 第五个是创造力的不可预测性。创造力这个东西很神奇，一会儿有，一会儿没有，一会儿很大，一会儿很小，一会儿突如其来……人工智能算法受到它们所训练的程序和数据的限制，缺乏对新信息作出实时反应的能力，因此它们不可能完全复制人类创造力的不可预知性。w 综上，这些东西是人所独有的，生成式人工智能不可能替代人类的智慧和洞察力。为了实现真正的原创，生成式人工智能需要由具有领域专业知识和背景经验的人类创造者来指导和培养。通过提供正确的提示，人类创造者可以帮助生成式人工智能充分发挥其潜力，产生令人印象深刻的结果。 虽然人工智能不大可能完全取代人类的创造力，但它是一个非常好的工具，我称之为人工智能的工具性。尽管这个工具很强大，但它仍然是一个工具，需要依靠人类的创造力、专业知识和经验才能真正发挥作用，人是不能够在这个过程中完全退出的，退出以后会有很大的麻烦。 3  我们来具体讨论一下人工智能的长短板，我用布鲁姆分类法这个分析框架来讨论，这是教育心理学家布鲁姆在1956年提出来的，后来做了一个修订。他说，我们怎么来讨论思维水平呢？把它分成六个层次，并且这个层次是由低到高，并不是平等的。最底层的东西叫做记忆，即承认或者记住事实、术语、基本概念或答案，但不必理解其含义。
阿伦特到了美国之后说，“能够让我觉得自己区别于美国人的，是因为我的脑子里经常会冒出赫尔德林的诗”，所以我觉得小孩还是要背唐诗，这是中国文化，遇到事情以后，你脑子里冒出来的一定是我们的唐诗宋词这些，但这个是死记硬背，我小时候背的时候也不知道它啥意思。 往上一层叫做理解，就是通过解释、分类、总结、推论、比较和阐明来解释主要思想和概念并表达意义。 再往上一层叫做应用，我们已经理解了，就要想办法把知识应用起来，即用知识来解决问题，确定事物之间的联系，以及它们在新情况下的应用方式。 再往上显然是更高端的东西，是以底下这些东西为基础的，但是比底下这个东西更加复杂和更有引领性的三个层面，分别是分析、评估和创造。 我认为布鲁姆分析法完全可以用来衡量人工智能的发展。它可以作为一个人工智能工具的评估框架，因为我在前面提到的那个落脚点——人工智能是一种工具，所以我们需要某一种东西来衡量这个工具到底好在哪儿，不好的地方又在哪儿，最后我们就会发现人工智能工具的优势在哪里，或者它的局限性又在哪里。 布鲁姆分类法是广泛适用于认知领域的，因此我觉得可以把它挪移过来，用它来评估ChatGPT或者其他操纵图像、创造音频或驾驶无人机的人工智能工具的优势和局限性，就是我们有一个很容易上手的工具。 一般来说，ChatGPT在记忆、理解和应用这三个方面做得很好，但在复杂的分析、评估和创造任务方面却很困难，所以这就意味着我们要跟它形成一个智能合作伙伴关系，我们应该把认知程度较低的东西都甩给它，然后把认识程度较高的东西交由人类来发展，进一步提升。 与其纠结于人工智能是否会与人类创造者竞争，不如问问人工智能的能力可以被如何用来培养人类认知的更高阶段的那些东西。当然，当我把这个工具拿过来用以后，我也必须承认这个工具也有它的局限性，人工智能有局限性，我们工具的评估框架也有局限性，比如它不能够处理偏见和仇恨问题，而这些东西又是很重要的。 许多复杂的任务可能同时涉及六个层面，你如果想把它摘出来，就有点像是分离奶油和水，不可能实现。 4  最后进入我的结论部分，虽然我认为它应该极大地帮助提升我们人类的创造力，但非常吊诡的是，由于有生成式人工智能可以依赖，人类创造力或许会进入一个低谷。其实从最简单的工作上都可以印证这东西，更不用说高端的工作，比如说如果你工作当中经常依赖ChatGPT，你就一定会越来越懒、越来越不动脑子，越来越想投机取巧地把这事干了。 教育界面临的问题就是学生会拿ChatGPT作弊。捷克的一个大概在全球排80多位的国际象棋大师，在法国的一次国际象棋比赛当中被抓住，正在厕所里看手机，被抓个正着，后来他就被取消了所有的资格，因为这是作弊。 我们都知道国际象棋大师卡斯帕罗夫，他在历史上被深蓝击败，虽败犹荣。他出来发表评论说，虽然在现实生活当中使用手机并不是作弊，但你可能会因为过度依赖数字拐杖而出现认知上的缺陷。 如果我们只依靠机器来告诉我们如何成为优秀的模仿者，我们将永远无法迈出下一步，成为创造性的创新者。这是他就此事做的一个评论。 计算机科学家魏岑鲍姆在20世纪60年代就研发了一个对话机器人叫做ELIZA。ELIZA其实是萧伯纳的《窈窕淑女》里头的女主人公的名字。其实当时他只是说，我要做一个机器人能够给人类进行心理治疗，结果他意外地发现相当多的人非常信任ELIZA这个程序，甚至他的秘书都掉进了这个陷阱，因此就产生了所谓的伊莱扎困境。就是明明知道它是个机器人，它给的答案也不很可靠，可是大家非常沉迷在其中，要跟它玩。有趣的是，魏岑鲍姆发明这个东西以后，他最后终身变成了人工智能的反对者。 他的一本书叫做《计算机能力与人类理性》。魏岑鲍姆认为不能再搞人工智能，因为一旦我们将认知自主权部分下放给智能机器，再想要把它拿回来将千难万难，这就是为什么当人类在享受认知的旅程中踩下刹车时，算法和人工智能机器却会以难以置信的速度快速前进，成为创造力的新来源。正如一幅很有意思的漫画说，机器在学习，人类在上瘾。  我们坚持要对人怀有信心，就是人类的创造力并没有被取代，因为每一个机械化的决定都可以通过算法一步步追溯，直到最后得出一个不可避免的结论，“因为是你告诉了我”。其实这是回到了埃达·洛芙莱斯的原始问题。 那么对人类来说，情况并非如此。人类解释自身决定的一个核心是“因为我选择了，并不是因为谁告诉我这样”。“因为我选择了”这个简单的短语当中，包含着人类的能动性、人类的创造力、人类的责任以及人类本身。  我们的技术可以使我们更有人性，让我们自由地发挥更多的创造力，但是我们还要意识到说人类除了创造力以外，还有别的很多的东西，我们还有机器无法比拟的其他品质，机器有指令、但我们有目的，机器不能做梦，甚至在睡眠的模式下也不能做，但人类是有梦想的。这也让我想起亚里士多德说，怎么定义人，人是一种会发笑的动物，机器会发笑吗？机器在战胜了李世乭的时候，它会很兴奋吗？如果它被李世乭击败，它会有李世乭那种极其痛苦的感觉吗？所以人类是有这些东西，但是我们的确需要智能机器来帮助我们实现梦想。 正如卡斯帕罗夫所说，如果我们停止做大梦，如果我们停止寻找更大的目标，那么我们自己就变成了机器。 创造力一直被认为是人类中心论的主要支柱之一，除了语言、价值观、情感和知觉以外，如果没有创造力，还有什么决定着人之为人的特性？这是我今天想要提出的最后一个问题。 没有创造力，何以为人？ |
|
|
