|
利维坦按：与其说利普森教授实验室中的机器人“获得了某种自我意识”，倒不如说这些机器人展示了自我意识中除了“源头“以外的、一系列关于信息输入与输出的机制模型。出于实际的研究目的，这样的模型的确可以称为某种“自我意识”。在哲学对于自我意识的源头的讨论早已陷入困境的时候，我们可喜地看到：科学家正在通过借用机器人来逆推意识的诞生。
原文/www.quantamagazine.org/hod-lipson-is-building-self-aware-robots-20190711本文基于创作共同协议（BY-NC），由Trion兵在利维坦发布“真希望在有生之年我能见到外星人啊！”说这话的人是哥伦比亚大学创新机器实验室的主任霍德·利普森（Hod Lipson），他还说希望在死前“能见到某种有智能且非人类的东西”。与其等着智慧生命体从天而降，利普森决定自己在实验室造一个，准确地说，他正在制造具备自我意识的机器。为了达成目标，利普森必须直面那个模糊不清的概念——意识。但他面对的情况不容乐观，就连利普森的同事们都对这个概念闭口不谈，视为禁忌。“在机器人技术、人工智能技术的领域，人类曾经把意识当作一个禁忌看待，没有人能够碰触这个话题，”利普森坦言，“因为这个概念太暧昧了，没人知道意识到底是什么东西。但既然我们要做严谨科研，就必须直面这个概念。可惜，据我所知，意识究竟为何物这称得上是最大的未解之谜，只有生命起源、宇宙起源才能和这样宏大的谜团相提并论。想想看吧——感觉是什么？创造力又是什么？情绪到底是什么？如今人类不仅想知道到底什么是人性，还期望搞清楚如何人工制造出人性。好吧，是时候直面这些问题了，对此我们再也不能畏畏缩缩了。”霍德·利普森在哥伦比亚大学的创新机器实验室里。图源：Quanta根据利普森的研究，组成自我意识最重要的一块基石，就是“自我模拟”（Self-simulation）：建立一个身体的虚拟模型，描述身体如何在现实空间内运动，并通过这个模型指导行动。利普森从2006年年初开始研究人造自我意识，当时他只不过是制造了一个外型邪恶的蛛形机器人，让这个机器人使用进化算法（Evolutionary Algorithm）自行学会如何在桌面上沿直线前进。（作为提示，除了进化算法以外，利普森还给机器人预装了一些程序解释基本物理规则。）利普森曾经在TED演讲中展示了蛛形机器人是如何自己学会爬行的。首先，这些机器人会毫无目的地摆动触手，通过收集到的信息尝试建立自身的虚拟模型。上图：蛛形机器人终于完成了自身建模，并根据这个模型自己模拟出一种爬行动作。图源：TED“看这家伙的样子，距离征服世界还很遥远。”利普森在展示蛛形机器人行动录像时这样说。虽然这种爬行动作看起来既邪恶又蠢笨，但机器人毕竟是完全依靠自身的学习能力迈出了这一小步。图源：TED（www.ted.com/talks/hod_lipson_builds_self_aware_robots?language=en#t-8208）到了2012年，利用现代科技制造人工智能的研究终于掀起一股风潮，卷积神经网络（Convolutional Neural Networks）算法以及其他深度学习（Deep Learning）算法开始在研究界大放异彩，回忆起2012年，利普森说人工智能领域就像是“改革春风吹满地”。2012年，利普森的团队在过去的蛛形机器人研究基础上公布了一个开源机器人项目，“蛛怪机器人”（Aracna Robot），如今全世界各地的科研团队都可以使用这个机器人进行研究。图源：Quanta2019年初，利普森的实验室公布了一台手臂机器人的论文及视频，通过深度学习算法，这台机器人仅凭自身的运算能力就从无到有搭建出自己的虚拟模型——利普森描述这个过程时说，“这像极了一个还不会说话的婴儿第一次观察并认知自己的手。”当这个手臂机器人对自身位置及形态完全一无所知的时候，它能做的只有长时间进行随机的摆臂运动，并收集所需的数据。图源：Columbia Engineering（engineering.columbia.edu/press-releases/lipson-self-aware-machines）成功搭建自身虚拟模型之后，这台手臂机器人可以准确地执行两种不同的任务，其一，从桌面捡起小球并放在杯子里；其二，在纸上写下特定的记号——理解、计划并完成上述任务的过程中，机器人并不会得到任何外界帮助。不仅如此，在本次实验中，研究员给机器人更换了一节变形的机械臂结构，以此模拟机械臂受到了损伤，而机器人不仅察觉到了这种变化，还更新了自身的虚拟模型，并且仍然能正确完成上述任务。的确，这样的思考还远远称不上深思熟虑，但是利普森坚信这个手臂机器人已经完成了从应激反应到深度思考的质变，接下来只是量变的问题。“当你提到机器人的自我意识，人们总觉得你指的是机器人会突然醒过来说：‘你好？我是谁？我在哪？’”利普森说道，“但是自我意识并不存在非黑即白的界限，它可以小到非常琐碎的念头，比如‘我的手应该伸到哪个方向去？’其实这与‘我是谁？我在哪？’是同样的思考，只不过它关注的是更短时间内的问题。”
这次，《量子》（Quanta）杂志采访了利普森，我们谈到如何界定机器人的自我意识？它们的意识有什么重要意义？具备自我意识的机器人又会把人类引领到什么样的未来？为了阅读的清晰明了，我们对采访问答做了删减加工。Q：对于意识本质这个宏大的问题，你显然有着极大兴趣，但是你为什么一定要用机器人来研究意识呢？为什么没有选择哲学家、神经学家的研究方向呢？A：对于我来说，机器人技术的美妙之处就是它会逼迫你把自己的主观理解翻译成程序、算法，把你的思绪代入到机械原理的世界里。在机器人技术的领域进行研究，你永远不能避重就轻，也无法使用空洞的形容词，更不能说什么“生活就是一张画布”，对于这种话，不同的人可能有各种各样的理解。所有这些表达都太过于含混不清，根本无法翻译给机器。因此，机器人技术会逼着你脚踏实地。我也想制造出实实在在的东西，而不只是让研究停留在嘴上。恕我直言，对于意识为何物，哲学家们在过去一千多年之间的研究乏善可陈。这并不是因为这一千多年里没有出现卓越的哲学家，也不是因为他们对意识问题兴趣淡漠——只不过是因为你不能站在宏观的高度去研究意识。当然，神经学家已经通过更确定、更量化的研究方式在接近意识的本质。但是，我猜他们最终还是会遇到瓶颈，因为他们仍然在使用一种宏观的研究视角。想想看，如果你试图理解什么是意识，为什么要从人类开始研究呢？人类可是最复杂的有意识生物啊！这就好像是从最陡峭的山坡开始登山。我们不妨换个视角，寻找到更简单的系统，因为它们很可能更容易理解。这就是我现在尝试做的事情：我们制造出一个只有4个机构自由度（Degree of Freedom of Mechanism）的机器人，相比人类的复杂意识，它明显更渺小，但是我们也能提出更具体的问题，比如，“我们能不能让这个机械做出自己的虚拟模型？”（译注：机构自由度，即为了使机构的位置得以确定，必须给定的独立的广义坐标的数目。）A：应该说一个能够进行自我模拟的系统，就已经获得了某种程度的自我意识。至于它自我模拟能达到的程度，无论是其模拟的物理精确度，还是对于自身的认知是短期当下的，还是可预期到未来的——所有不同的实验结果都可以说明它的自我意识到底处于什么程度。这个假设就是我们进行研究的基本出发点。Q：换句话说，你把“自我意识”这样的抽象概念具象为“自我模拟”，在技术领域这是一个更清晰的标准，代表着一个系统将自身空间状态转化为虚拟模型的能力？A：没错，对于自我意识，我提出了一个独特的定义，并使用这个非常精准的定义进行研究。它可以被计算、被测量、被量化，你甚至可以用电脑计算出这个定义本身存在多大的误差。也许哲学家会说：“呃，我们可不会这样理解自我意识。”然后他们会和你展开一些非常模糊不清的讨论……的确，你可以指出我们提出的定义并不是真正的自我意识，但你必须承认这个定义非常实际，易于进行研究，因为我们已经有了一个标准（Benchmark）。这个标准就是以往研究中工程师亲手敲一行行代码，为机器人建立起来自身虚拟模型。而我们希望看到的，不只是人工只能算法学会了搭建自身的虚拟模型，更希望看到人工智能模型和人类做出的模型一样好，甚至可以超越人类。这些画作是由一种已实现量产的人工智能机器人创作的，它们搭载的程序及算法是专门用于绘画的。图源：QuantaQ：为什么一定要制造有形的机器人呢？难道不能在无形的虚拟程序中研究自我意识吗？A：我是一个机器人科学家，制造机器人来研究当然是我的首选。实际上我们期望得到的东西是一个封闭系统（Closed System），其功能就是自行模拟，为了让这个封闭系统做到这一点，我们必须给它一定输入，并观察它的输出——关键在于这个研究过程必须存在于某种界限之内，在这个封闭环境内你才有可能制造出“自我”。而机器人简直是天生就适合进行这样的研究，它可以通过感知获得输入，也可以输出行为动作，而且一切都存在于可控范围内，它可以遭遇一些特定事件，然后对此进行模拟。这是利普森团队今年公布的另一个机器人，“灰色粘液”（Gray Goo），这种机器人单个个体拥有感光设备以及小型电机，但是只能进行简单的收缩运动。图源：Columbia Engineering当机器人组成列阵集群，它们通过算法理解了彼此之间的关系，顺利建模，并且找到了一种有效的集群移动方式，最终成功朝光源方向运动。图源：Columbia Engineering（engineering.columbia.edu/press-releases/hod-lipson-gray-goo）A：今天我们的研究的确是让机器人从零开始，看看机器人能走到哪一步，我们也把这样的初始状态当作原则问题。但是在早期的研究中，比如那个蛛形机器人，那时候我们还不具备足够的运算能力。就好像我们必须告诉它：“听好啦机器人小老弟，你现在根本不知道自己位于什么地方，也不知道自己的各部分零件都长在哪，不过我现在先告诉你一个我认为正确的物理学法则，F=ma，好啦，现在轮到你上场了。”A：不知道为什么，人类总是热衷于通过人工智能让机器人了解外在的现实世界，然而对于机器人内部到底发生了什么，人类总是有某种奇怪的敲代码的热情，总是坚持亲手制作机器人的虚拟模型。因此我们在研究之初就着手于非常琐碎的细节，当时我们决定，“人类为了让机器人认知外部世界已经做了大量软硬件基础设施，我们应该利用这些东西让机器人学习自己的内在世界发生了什么，而且这次机器人只能依靠自己。”如果要用一句话概括我们的研究，这就是我们在做的事情。Q：机器人很可能要做1000次随机的行为，才能收集到足够多的信息让深度学习算法搭建自身模型。这个过程就是你所说的机器人就像是一个连话都不会说的婴儿吗？A：没错。当你看到机器人胡乱挥舞手臂，它很可能是在观察机械臂的尖端在哪里。想象一下你调动手臂肌肉做出摆臂的动作，寻找着自己的手指尖端。对于你来说，这就是你的输入信号与输出行为。为了完成这件事，机器人可能要在那里胡乱摆动30多个小时，当我们确认它已经收集到足够多的数据，我们才能下班回家。从这一刻开始，就全看深度学习算法能否完成挑战，制作出自身虚拟模型了。接下来，我们提高了难度，把机械臂拆开，替换一节有着特殊形变的机械臂，以此模仿机器人受到了破坏，然后再次重复这个实验。于是我们亲眼目睹了“受伤”的机器人在整体模型的基础上纠正了发生形变的部分。这一次，它已经不需要从零开始制作模型了，虽然它仍然需要在一段时间内看似极其智障地胡乱扭动，但相比第一次实验，第二次收集数据的阶段节省了90%的时间。图中红色部分即替换掉的机械臂结构，长度及弯曲度均有改变。图源：Columbia Engineering然而更重要的是，在机器人开始第二次扭动之前，它首先要察觉到自身出现了问题。能做到这一步有着重大意义，但是它怎么能察觉到异常呢？当我们人类身体发生了变化，我们会和脑海中的那个虚拟模型比对，我们只要用眼睛一看就能马上知道自己的手是不是还在原来的位置。或者，你原本预期要移动4厘米，但是突然发现自己移动到了16厘米以外。你可以瞬间得到反馈，同理，机器人也是在一瞬间就发现了异常。接着，它花费了一些时间学着适应这些异常，等等……但是我必须说，单单是发现异常就已经是个重大的进步了。Q：是不是可以把这种机器人自行模拟出来的自身模型类比成人类大脑的某个脑区？比如某个存储着身体构造图的脑区？A：我就是这么想的。当然了，这也是为什么手臂机器人做出的自身模型看起来很粗糙、简略。毕竟我们的这个小机器人只不过是个能到处挥舞的机械臂，只有4个机构自由度而已。如果我们要使用一个拥有800多个自由度的人形机械做这个实验，人类今天掌握的人工智能技术还远远应付不了如此复杂的计算。利普森的团队还曾经做过另一种实验，首先让人工智能在一个空间内模拟出1000个方型机器人，这些机器人能做到的只有通过翻转进行移动。但是一段时间后，画面右侧的深蓝色方形机器人开始清理出一片只属于自己的区域，右下方还有一团青色方形机器人开始形成集群。不知出于什么样的原因，人工智能自动通过自我复制奖励自己。图源：TED在实验室中，利普森的团队制造了一种运动能力更强大的立方体机器人，研究员发现，只要他们不断地向实验环境内添加小立方体机器人，这些机器人就会不停地相互连接，建造出一个又一个立柱个体，也是通过这种方式进行自我激励。图源：TED（www.ted.com/talks/hod_lipson_builds_self_aware_robots?language=en#t-8208）Q：如果这真的是一种自我意识，为什么要赋予机器人这样的能力呢？这样做有什么意义吗？A：它最终将让机器人更具可塑性，的确，你可以亲手设计一个机器人，就像我们今天通常所做的那样。但是这不仅费工费力而且也拖延了人类自己的时间。当这个机器人在现实世界中发生了形变，比如被撞破了，或者掉了个轮子，或者其中一个电机速度下降了，那么我们原本设计的模型就不再适用。这样的问题很难被轻松解决，因为这不仅仅是在批量生产的机器人身上装错了个螺丝钉那么简单的问题。恰恰相反，这样的问题非常严肃关键，想象一下无人驾驶汽车吧，如果你愿意开这样的车，就是把自己的身家性命托付给了智能机器人。你希望这些机器人可以探测到危险，并且持续稳定地监测潜在风险。另一个原因是灵活性。假设某个机器人只做一项工作，当它进行该任务时，会不断修正更新自己的模型。如果它突然需要做一项新的工作，比如在另外一个地方安装螺丝钉，或者新的任务不再是拧螺丝，而是喷镀防锈涂层，此时机器人仍然可以使用同一个虚拟模型继续学习如何完成新的任务。总体来说，这种学习过程很像人工智能领域的另一种算法，“零次学习”（Zero-shot Learning），它指的是一种人类能进行的深度学习——只要你会爬树，哪怕是面对一棵陌生环境的陌生树木，只需盯着树干观察一段时间，人类就可以成功攀爬这棵树。相似地，一旦机器人获得了自我虚拟模型，它就可以进行这种程度的学习：唯一的不同是，你看不到机器人花费数小时在内部模拟推演爬树的过程。从你的视角观察，你只会看到一个机器人成功完成了某种任务，然后它停滞不动一段时间，马上就可以成功完成另一种任务，根本不需要试做或练习。Q：目前你正在做的是能给自己建模的机器人，而你的目标是制造有自我意识的机器人，或者换个更通俗一点的说法，有思考能力的机器人——你距离这个宏大目标还有多远？A：我们还进行了其他几个科研项目，同样是研究机器人的自我建模能力，但这次不是搭建外形，而是搭建自身的认知过程。在这两个方向上我们都在小步前进着，但最终这些小小的步伐会积累成一个飞跃，让人们相信机器人不仅最终可以获得人类的认知水平，还能超越我们。动画短片集《爱，死亡和机器人》（Love,Death&Robots）中的《齐马的作品》（Zima Blue）片段。图源：TumblrQ：也就是说，无论是自我模拟身体还是自我模拟心智，你认为这两个研究方向未来会交汇在一起？A：是的，我认为这两种研究其实本质是一样的，这是我们目前的假设，对于这些研究的未来我们也在拭目以待。***赠书*** 《祖先的故事》 逆向追溯生命起源的恢弘史诗 见证40亿年人类进化的非凡跃迁 本文留言点赞数最高的前5名读者
|
