 罗卫平（首都师范大学） 导读 如果说，人类未来将面临深渊，人的内在分离便是深渊的根源所在。在人的权势向智能机器系统转移这一外在过程展开之时，人臣服于机器系统的内在的权势转移已经开始。 人类用来控制世界的创造物，可能让人类自身被控制。霍金、马斯金、博斯特罗姆（Nick Bostrom）等人在分析人工智能发展前景时，警示了这种未来的可能性，引发了全球范围的关注。近两年畅销全球的《人类简史》作者尤瓦尔·赫拉利，在今年推出的新作《未来简史》（Homo Deus: A Brief History of Tomorrow）中，认为人类的明天变化太快，不复像以前那样可以预见。人类很可能走到悬崖边上，在脚下的“深渊”中，失去自由的人类如同今天的动物一样被控制。未来的“深渊”可能在某个时点出现，但人类的视野一片混沌，现在可以做的也很有限。 人工智能发展将给人类生活带来的极大便利，将为创新者与资本带来的丰厚利润，将为国家竞争提供新的广阔空间，这些都吸引人们在技术创新的道路上奔竞不休。世纪初的克隆技术突破，曾引起保守团体等社会群体的强烈反对，在一些国家形成了较强的制约，而今天的人工智能发展尚未挑战人类既有秩序与禁忌，目前还很少有社会群体对此一议题发表意见，主要是一些个人表示谨慎的忧虑，例如，《人类简史》“后记：变成神的这种动物”批评，人类“拥有神的能力，但是不负责任、贪得无厌，而且连想要什么都不知道。天下危险，恐怕莫此为甚”。 尽管如赫拉利所指出，政府很难跟得上快速进步的人工智能技术，但国家竞争是技术创新竞争的重要推手。今年10月，美国白宫发布《人工智能指导性研究报告》和《人工智能研发国家战略计划》，提出长期的项目研究投资等七项战略。奥巴马在接受《连线》采访时指出，目前人工智能发展还处在初期阶段，这一阶段政府应当施加相对较少的监管，应更多地投资于科研，将其纳入现有监管框架是“以后的事情”。美国政府的这一看法很具代表性。奥巴马同时也强调，政府应该积极投入，让这些突破性技术表现多元的社会诉求，避免形成巨头垄断的局面。但如《赫芬顿邮报》的记者丹尼斯（Dennis）所指出，美国政府的人工智能规划并没有解决巨头垄断的问题。 人类在人工智能时代将进入最不平等的时代，大量失业等社会问题将出现，这一《人类简史》及近年来其他相关著作涉及的议题，在上述美国规划中也有回响，其第三项战略即是“理解并解决人工智能带来的伦理、法律和社会潜在问题”。赫拉利在《未来简史》中继续讨论了这一议题，不过这本书最值得注意的，是对“知识（intelligence）与意识（consciousness）分离”问题的分析。他将人的这一内在巨变称为“大分离”（the great decoupling）。 《人类简史》的英文主书名是“智人（Sapien）”，《未来简史》的英文主书名则是“神人（Homo Deus）”，“神人”即是知识与意识“大分离”之后的产物。未来超级智能机器虽然没有像人一样的意识，但其知识处理的“程序”远比人这种“程序”强大。意大利文艺复兴时期的著名人文学者皮科·米兰多拉曾在被称为“文艺复兴时代的宣言”的《论人的尊严》中认为，人的伟大是上帝“造”人时便赋予人类的，诸如自由行动、创新、改变自身的性情，等等。但他没有想到的是，人类的自由创新可能强大到颠覆人类自身尊严的地步。人类的创新能力达到顶峰之际，也是达到自身限度之时。 赫拉利指出，自由主义者捍卫自由市场与民主选举，因为他们相信，每个人都是有独立价值的个体，但21世纪实践在三个方面的发展，将让这种信念变成废话。其一，人这一物种可能在经济生产与军事上丧失其有用性，经济与政治体系将不再认为人有太多价值。不过他说，这不是预言，只是指出这种可能性，因为技术难度与对失业的群体性抗议，将延缓机器人占据工人岗位的进程。其二，政经体系将发现作为集体的人类有其价值，但作为个体的人类则没有。其三，政经体系将发现少数个体有其价值，但这些个体是经过“升级”的“超人”中的新精英，而不是芸芸大众。 更具颠覆性的变化是，自由主义的独立个体信念的基本前提假设失效了，生命科学与智能技术的发展改变了对“人”的理解。其中的关键是，21世纪的技术发展能够使外置程序比我们人类自己更了解自身，而一旦技术发展达到这个阶段，自由主义关于“人”的信念会崩溃，权势会从个体的人向网络化程序转移。人不再将自己看做独立个体，不再认为自己是在按照自我意愿决定如何生活，转变后的情形是，人越来越习惯于把自己视为系列生化机制的集合，这些机制为网络化的电子程序所监控与引导。这些电子程序不用彻头彻尾地了解每个人，只要比人自己更了解人，其指导只要比人自己更少犯错，这一巨变就会发生。 1980年代，美国哲学家雪莉·特克尔（Sherry Turkle）的《第二自我：计算机与人类精神》曾风行一时。她在这本书中指出，新的计算机文化的特征是“精神的机器化”，预想在未来的新时代，不妨把人自己想象成“一台机器”，初步提出了人的内在分离的问题。赫拉利进一步指出了，人的“第二自我”，不在人的内部，而是外置于人的网络化电子程序。 如果说，人类未来将面临深渊，人的内在分离便是深渊的根源所在。在人的权势向智能机器系统转移这一外在过程展开之时，人臣服于机器系统的内在的权势转移已经开始。(编辑 李二民) 作者：罗卫平 （责任编辑: 邓益伟） |
|
|
来自： 昵称38911379 > 《文件夹1》
