|
人工智能领域的先驱者、被誉为“人工智能之父”的杰弗里·辛顿（Geoffrey Hinton）近日宣布辞去谷歌的工作，并对AI技术发展带来的危险发出警告。他表示对自己过去十年的工作感到后悔，并对AI技术可能被滥用、造成失业和威胁人类生存的风险表示担忧。 谁是杰弗里·辛顿？ 杰弗里·辛顿是一位英裔加拿大认知心理学家和计算机科学家，以在人工神经网络方面的研究而闻名。他于2013年加入谷歌大脑（Google Brain），并与多伦多大学（University of Toronto）合作，直到2023年5月公开宣布离职。 他在离职后表示，谷歌在开发AI方面“非常负责任”，但他需要“自由地对AI的风险发表意见”。 他还于2017年与人共同创立了多伦多的向量研究所（Vector Institute），并担任首席科学顾问。 辛顿与戴维·鲁梅尔哈特（David Rumelhart）和罗纳德·威廉姆斯（Ronald J. Williams）合著了一篇于1986年发表的高引用论文，推广了用于训练多层神经网络的反向传播算法， 尽管他们并非该方法的首创者。 辛顿被视为深度学习社区的领军人物。 他与学生亚历克斯·克里兹赫夫斯基（Alex Krizhevsky） 和伊利亚·苏茨凯弗（Ilya Sutskever）合作设计的AlexNet，在2012年ImageNet挑战赛中取得了令人瞩目的图像识别成果，是计算机视觉领域的一个突破。 辛顿与约书亚·本吉奥（Yoshua Bengio）和雅恩·勒昆（Yann LeCun）一起获得了2018年图灵奖，以表彰他们在深度学习方面的工作。 他们有时被称为“人工智能之父”和“深度学习之父”， 并继续一起进行公开演讲。 为为什么辛顿要辞职谷歌？ 在接受《纽约时报》采访时，辛顿表示，他对AI技术可能超越人类智能的想法感到后悔，并分享了他对虚假信息的担忧。他还警告说，一旦AI开始编写和运行自己的代码时，人类将面临的长期威胁。 “这种东西实际上可能比我们更聪明——有少数人相信这一点”……“大多数人认为这是遥不可及的。而我也认为这是遥不可及的。我以为这至少还要30到50年，甚至更久。显然，我现在不再这么认为了。” 辛顿现在将他的余生奉献给确保他帮助创造的技术不会危及文明。他还在一条推文中澄清，他的决定不是因为谷歌的不负责任，而是强调需要讨论AI的危险。 辛顿担心什么样的AI危险？ 辛顿在接受BBC采访时，表示他对AI聊天机器人的一些危险“非常害怕”，并担心“不良行为者”可能以对社会有害的方式使用AI。 “目前，它们并没有比我们更聪明，据我所知。但我认为它们很快就会。”辛顿说。 辛顿以他在深度学习和神经网络方面的开创性研究为基础，为当前的AI系统如ChatGPT等奠定了基础。但这位英裔加拿大认知心理学家和计算机科学家告诉BBC，聊天机器人很快就会超越人类大脑所能掌握的信息水平。 “目前，我们看到的是像GPT-4这样的东西，在它所拥有的一般知识方面超越了一个人，并且超越了很多。在推理方面，它还不够好，但它已经能做一些简单的推理。而且考虑到进步的速度，我们预计事情会很快变得更好。所以我们需要担心这一点。” 辛顿在《纽约时报》的文章中提到了一些“不良行为者”，他们会试图将AI用于“不良事物”。当BBC问他详细说明时，他回答说：“这只是一种最坏情况，一种噩梦般的情景。” “你可以想象，例如，一些不良行为者决定给机器人赋予创建自己子目标的能力。”这位科学家警告说，这最终可能“产生诸如'我需要获得更多权力’之类的子目标”。 辛顿还说，他意识到自己开发的智能与我们所拥有的智能有很大不同。 “我们是生物系统，而这些是数字系统。而最大的区别是，在数字系统中，你有许多相同权重、相同世界模型的副本。而所有这些副本都可以单独学习，但可以即时地分享它们的知识。所以这就好像你有1万个人，每当一个人学到了什么东西，其他人都自动知道了。而这就是这些聊天机器人能比任何一个人都知道更多的东西。” 辛顿还表示，他辞职的原因还有其他几个。 “一个是，我已经75岁了。所以是时候退休了。另一个是，我实际上想说一些关于谷歌的好话。而如果我不为谷歌工作，它们会更有说服力。”他强调，他不想批评谷歌，认为这家科技巨头一直“非常负责任”。在一份声明中，谷歌的首席科学家杰夫·迪恩（Jeff Dean）表示：“我们仍然致力于对AI采取负责任的态度。我们在不断地学习，以了解新出现的风险，同时也在大胆地创新。” 辛顿的观点有多大影响力？ 辛顿是AI领域的权威人士，他的观点引起了广泛的关注和讨论。他不仅在学术界享有盛誉，还与业界保持着紧密的合作。他与本吉奥和勒昆一起获得了图灵奖，这是计算机科学领域最高的荣誉。他们经常被邀请在各种场合发表演讲，分享他们对AI未来的展望和建议。 辛顿的离职也引发了一些反思和批评。一些人认为，辛顿的担忧过于夸大或过于悲观，忽略了AI技术带来的积极影响和潜在机遇。一些人认为，辛顿的立场与他自己的研究和投资存在矛盾或利益冲突。一些人认为，辛顿的建议缺乏具体性和可行性，没有提供有效的解决方案或监管机制。 我们应该如何看待AI技术？ 作为一名风险投资人，我认为AI技术是一个双刃剑，既有利也有弊。我们应该既看到它的潜力和价值，也看到它的风险和挑战。我们应该既支持它的创新和发展，也关注它的伦理和社会责任。 我认为辛顿提出了一些值得重视和思考的问题，尤其是关于价值对齐、社会效益、监督和问责等方面。这些问题不仅涉及到技术本身，也涉及到人类社会的历史、文化、政治、经济、法律等多个层面。要回答这些问题并不容易，需要多方面的协作和对话。 辛顿没有给出一个全面和平衡的视角，而是过于强调了AI技术可能带来的负面影响。AI技术也有很多正面影响，比如提高生产效率、优化资源分配、增强人类能力、改善人类福祉等。AI技术也有很多潜在机遇，比如促进教育、医疗、娱乐等领域的创新和发展。 我们应该对AI技术持有一种既积极又审慎的态度，既抓住机遇又防范风险，既尊重价值多样性又追求价值共识，既推动技术进步又保障社会公平。这样，我们才能实现AI技术与人类社会的和谐共生。 |
|
|
