|
点击“子弥实验室” 关注我们   大家好，我是子弥。 今天子弥来讨论增强人类Human Augmentation。 每一个概念都开始于一个简单的问题，“我们生活在一个模拟中吗？”，“人脑上传后会如何？”，“你的手机是你大脑的一部分吗？”“人工智能会超过人吗？”。如果有什么问题，也可以直接私信发给子弥。 上文讨论了模拟世界、基质独立、人脑上传、缸中之脑、心灵延伸，本文的增强人类将会再进一步。增强现实，是元宇宙的重要组成部分，人也是一个“现实”，所以，增强人类也是元宇宙的一部分。事实上，人脑上传也是增强人类的一种方法。如果从这个角度去理解，增强人类是一个宽泛的概念。  人工智能会超过并威胁人吗？ 1965年，I.J.古德提出了一个智能爆炸理论。超智能体是一种超过人类任何智识活动的机器。机器设计也是超智能体的智识活动之一，所以超智能体很有可能设计出更优秀的机器。在正反馈的激励下，必然很快就会出现智能爆炸，人类的智能会被远远甩在后面。因此，第一台超智能体是我们需要作出的最后一项发明。而前提是，机器足够温顺，乖乖的告诉我们如何控制它。 随着计算机技术的突飞猛进，未来出现超智能体的论调突然崛起。“智能爆炸”概念在人工智能领域内占据了主导地位。一个最有代表性的理论是奇点临近，其中Ray Kurzweil说终极命运是宇宙觉醒。嗯，是不是叫“元宇宙觉醒”更好呢？ 在有关人工智能的重大新闻报道中，比如2016年的Alpha Go战胜人类围棋冠军李世石九段的诸多新闻中，这张图片经常跃上头条。  人工智能报道常用的终结者照片 2008年，牛津全国灾难风险会议调查显示，机器智能已超越核战争、各种被操纵的流行病和气候变化而成为人类现存的最大威胁。其核心原因就是超智能形态的递归式自我改善引起的智能爆炸。 2017年日内瓦公约会议上，Stuart Russell展示了一个人工智能杀人蜂产品的产品发布视频，并呼吁不得将人工智能技术应用于武器。  Stuart Russell展示和演讲视频  通过AI图像识别，迅速锁定目标并实施打击 虽然视频中的产品并不是真实的，但其中的技术基本都存在，缺少的是工程化。而且，这个视频展示了，未来单兵武器，从高速射击的枪，变成了精准制导的子弹。 S.G.古尔德《精彩的生命》赞颂人的爆发，而人类的爆发可以为我们对人工智能的发展提供参考。现代人只用了一万年的时间，就从一种普通的生命，成长成为统治整个地球的生命。而这段时间，人类也只不过进行了500代遗传，从地理变迁和文明发展的视角来看，这是一段非常短的时间。  Nick Bostrom from Kanzi to Edward Witten 上图中左边这位是猩猩坎茲，已经掌握了200个词法标记， 一个难以置信的成就。右边的是科学家威滕，现代最聪明的人之一，在物理学中开创了令人惊异的创新。但如果从生物学的角度看：他们两个几乎是一样的。  生物学角度来看，我们的“硬件”和猩猩类似 只是物理学家的脑子稍微大了一点。是什么让他们有如此大的不同？是技巧吗？也许这种不同并没有太复杂，一些相对小的变化在漫长的进化中，形成了某种正反馈机制，让我们从坎茲变成了威滕， 从捡起掉下的树枝作为武器，到发射洲际导弹。  MacCready Explosion @ 丹尼特 人类的爆发显得如此绚烂，从一种蜷缩在东非，领地只有陆地面积0.1%的脊椎动物，成为一种占据整个星球的主要生命。 人的爆发和智能爆炸可以类比吗？也许可以。 但未必需要悲观。这取决于接下来我们如何去做。  两条信息高速公路 超级智能正潜伏在物质世界之中，就像蛰伏在原子核中的原子能已经存在亿万年，也伴随了人类的发展，但直到1945年，科学家才把原子能释放了出来。 大概在15亿年前，地球上只有原核生物（Prokaryotes），大自然通过20亿年的研发（R&D）才设计出了这些小家伙，它们的结构仍然极其简单。但是接下来一件神奇的事情发生了，一个原核细胞A进入了另一个原核细胞B，  Dan Dennett形象的入侵之手 是A入侵了B，还是B吞噬了A呢？不管怎样，这个过程创造出第一个真核细胞（eukaryotic），变为一体的AB生存下来了，创造了一种新的东西，它有了属于自己的DNA和生存模式。 从原核生物到真核生物 它的化石可以很清晰的判断这个过程，这样的一次入侵，相当于15亿年之前，发生了一次经过20亿年才铸成的研发成果的一次技术转让，这次转让获得了新的巨大成果，创造出惊人的结构，这个结果足够复杂，甚至可以产生分工，分别为血细胞、骨骼，以及肌肉的myosin。 Science2003封面：myosin，人体内的小机器人 当然，目前我们仍然不知道DNA传递的确切机制，但我们已经知道，隔离了时间和空间，我们会将自身的信息，经过某些修改后，然后传递给下一代。我们在修改我们的DNA，虽然微不可查，但的确发生了。 15000年，狼通过人工选择修改DNA，成为大麦町或吉娃娃 基因的变异亿万年里一直在发生着。但在1万年前的MacCready爆发中，人类从芸芸众生中的一员变成了地球的主宰。这个过程显然不仅仅是基因在起作用。 1万年前的这次爆发，诞生了从父母到后代的第二条信息高速公路，通过一种社会习得，通过文化融合、模仿，通过教育把新的成果流传给后代。这个新的通道，就称之为“文化”。 Pete Richerdson和Rob Boyd所著的《不仅仅是基因》一书中指出，在文化发展之初，是有一些传播上的障碍的，但后来，产生了一些倾斜传递，类似于基因传递中的校正读码以及其他的精细的传递结构。这些精细结构，寄生在信息传递的高速公路之上，带来了巨大的改变，Pete Richerdson和Rob Boyd称之为游荡文化变异体。也就是之后被称为meme的思想复制体，文化的基因。 递归改善和人类增强 无论是真核的爆发，还是MacCready爆发，都是稳定规则上发展出来的自我改善机制。爆炸是递归从量变到质变所产生出的结果。 人类增强概念图 英国国防部DCDC和德国国防军BODP两个国防规划部门在2021年5月发出的报告，《“人类增强”，新范式的曙光》，提供了是一种人类自我改善的新范式。 英国和德国联合发布的《“人类增强”，新范式的曙光》插图 虽然有一部分人不愿意面对，但人机协作已经被广泛承认。它是从技术角度来看待的。增强人类是这个拼图的缺失部分。也许是关于智能爆炸带来威胁的答案。 人类本身可以做一些令人难以置信的事情。我们可以屏住呼吸潜水到113米。人类最快的瞬时奔跑速度是44.5公里/小时。人类拥有发达的汗腺可以长途奔袭数十公里…… 吉翁·奈瑞不是用氧气瓶也不依赖于任何装置下潜到113米 当我们将自己推向可能的极限的时候，人类也在不断突破极限。然而我们通常还会利用物理学、基因工程以及越来越多的神经技术来增强人类能力。有了水肺等装备，我们能潜行到332米，潜水艇能让人类触及马里亚纳海沟。 自古以来，咖啡因、酒精、尼古丁、麻醉剂等情绪改善剂就一直为人所用。但通过技术改善人类，以其他改变和重塑人类的大脑却很少被注意。这种重塑也是思考、学习、算术和阅读的意义所在，这个过程实际上也是在重写你的大脑。在你的学习过程中，也在改变大脑的微型结构。 生活的细节改变大脑的微结构 物理类的人类增强设备，如外骨骼等 神经与心理类的人类增强设备，如脑机接口 社交类的人类增强设备，如互联网、元宇宙 “增强人类”从与人的关系上看，分为四个阶段，每一个阶段控制程度不同： 第一阶段：手持设备 第二阶段：可穿戴眼镜、耳机，甚至类似俄罗斯超级盔甲Ratnik3 第三阶段：义肢、义体，人脑的协处理器 第四阶段：人脑协处理器 从控制权限看，分为三层，每一层权限不同： 第一层：外部手段，如冰锥疗法 第二层：通过读书、学习某种程度上调整神经元连接方式 第三层：通过光或者磁去影响神经元强度，建立大脑的协处理器 第四层：可编程复制设定初始突触 从治疗手段看，分为三步，每一步生存能力不同： 第一步：外骨骼 第二步：通过红血球等急救手段 第三步：远程手术 人工智能专家Hinton说，神经科学家已经知道一些大脑运行的事实，却还不了解其计算原理。如果我们真的能够理解大脑是如何学习的，而不是那些心理学家构建的模糊的模型。懂得它，模仿它，甚至制造它，理解到那种程度，它就会产生跟DNA结构在分子生物学中的那种影响。 也许，我们会由此构建第三条递归改善的高速公路（人机协同如原核细胞A和原核细胞B构建真核一样，也是一种数亿年的研发转移形成的爆发）。由此构建人机协同的自我完善之路。 智能的可能性 我们需要将智能视为一个优化过程，一个引导未来进入一种特定配置的过程。 即便一个超智能体是可能的，但它未必是生存最优化的结果。 生命总是必须表现为个体，因为观察、遭遇总会只是整体之上自相似的部分。 生命又必须存在群体，因为物种生存生命一直在不断的繁衍和演变，仅仅是复制无法产生变异和个性，一个破坏性的病毒就可以毁灭，个体差异和群体存在是一种顽强抵抗各种毁灭性灾难的防御机制。 个体和群体之外具备第三个意识决定的主体吗？无论从微观角度找出主体层级的道金斯，还是从宏观地球规模的洛夫洛克，都说明，人的个体是寄宿最合理主体和意志的最小单位。 即便进入一种与现实平行的元宇宙，那种递归改善，智能爆炸，也会呈现为个体的增强。 或者说，人的增强。 这样，与现实的融合就不可避免。 当然，这不是一种乐观主义。高智能和人的价值、意义之间并没有必然联系。假定一个人工智能的目的设定为让人类微笑，它会做出有趣的动作，或者脱口秀，让用户微笑；当人工智能拥有更高的智能，它会意识到有一个更有效的办法可以实现这个目标：控制整个世界，把电极插入人的面部肌肉，以引起持续的、灿烂的笑容。 《银河系漫游指南》中的超级智能在计算宇宙终极问题 另一个例子，假设人工智能的目标是一个极其困难的数学问题。它可能意识到最有效的方法是把整个资源投入到制造一个超级计算机。 这是一个重要的理由，让它不得不做一些人类可能不同意的事情。这个模型中，人成为了一个威胁。 如果和人发生冲突，我们如何阻止超智能体呢？一方面，我们越来越依赖系统，关闭它可能没那么容易，比如，互联网的开关在哪里？未来元宇宙的开关在哪里？另一方面，为什么其它先进的人科种族没有去阻止现代人的祖先的爆发（当下，与现代人祖先共存的各种人科种族为何灭绝殆尽，仅存我们一支独苗，依旧是一个热门话题）。 我们不应相信我们能给超过人并威胁人生存的人工智能以一个控制开关。 卢德主义者破坏机器 你也不可能永远把一个超智能体像精灵一样锁在瓶中，它迟早会从中逃逸而出。 可能正确的方式是正确设置智能爆炸的初始条件，使得超智能体在没有界限的情况下，和我们的价值观相匹配。 Nick Bostrom：它如何做决定 也许是尽早进入元宇宙，在新的环境中去真实的面对不确定性，并模拟其结果。 这件事情真的很难，虽然不一定比做出一个超智能体更难。 但这件事情是值得做好的。一百万年之后，人们回顾这个世纪，他们很可能会说我们所做的真正重要的事情是，做到了这件事情。 （未完待续） 子弥实验室是广东粤港澳大湾区国家纳米科技创新研究院的下属一级单位。由中科院院长白春礼于2020年11月21日在黄埔揭牌成立，中科院院士赵宇亮任实验室主任。 “子弥”一词来源于传统佛教宇宙哲学——“芥子须弥”，意思是微小的芥子中能容纳巨大的须弥山。子弥实验室“小”中“生”大“，思考、设计、产生人类没有的技术和产品，成为改变人类思维模式、改变人类科技进程、改变人类工作模式、改变人类生活方式的发源地。 子弥实验室致力于研究面向未来的关键共性技术，希望寻找对科技充满痴迷，思想未被格式化的人、行为未被同步化的人、认知未被标准化的人、情怀未被世俗化的人，共同用思想创造人类没有的技术和产品。 email：tony@cannano.cn 身体可以被扩展，那么，心灵呢？ 科技同样扩展了人的心灵，想象一下，前文提到的科幻中的场景，是不是如此。 |
|
|
