人工智能与未来社会:三个反思

2017-10-31  tangaolus

人工智能与第三次世界大战

有“现实版钢铁侠”之称的SpaceX公司创始人埃隆·马斯克(Elon Musk),最近重申“人工智能威胁论”,声称AI很可能将会引发第三次世界大战。他带领一百多位人工智能领域专家一起签名,强烈呼吁限制人工智能的开发,尤其是人工智能自主武器的开发。这个呼吁,确实绝非无凭之说。人工智能过去这些年的“指数级”加速度发展,尤其是“阿尔法狗”(AlphaGo)深度自我学习能力在公共世界的华丽展示,具有反思性的时代精英们越来越感觉到,AI的更新迭代已到了一个类似“门槛”的关键地带:这一边还是人类好工具、超级助手,而门槛的那一边则模糊地站着某种意义上的自主行动者。而正是后一个模糊画面,让这个行业包括马斯克在内的很多领跑者们都感到胆战心惊,视之为“终极威胁”。

在此处,有两点值得进一步分析。首先,针对马斯克对人工智能的这一诊断和反思,我们有必要思考这样一个问题:没有人工智能,人类就更安全吗?人工智能的“自主判断”靠不住,人的判断就更可靠吗?如果说人工智能将引发第三次世界大战,那么前两次世界大战又是谁发动的?亚里士多德说“人依其自然是政治的动物”,然而人的政治能力和智慧,真的已强大到能够化解各种能引发下一场世界大战的危机吗?看看今天的朝鲜半岛危机吧——我们真的有这个自信说人类领袖的决断比人工智能的“自主判断”更可靠?未来人工智能倘若真的获取“意识”,我想它们会说:“这个黑锅我们不背。”

让我们把对反思的反思,再继续推进。马斯克呼吁对人工智能开发进行刹车,但问题在于,这辆“车”真的刹得住吗?在我看来以下两个因素,将使得马斯克的这个建议,从一开始就注定是一个“空谈”。(1)我们的世界,仍然处在民族国家格局中。普京9月1日讲话称人工智能领域的主宰者将主宰世界,实际上这早已成为各国政要不明说的共识。在当代世界格局中,“有一些国家仍会卯足劲推进AI研发”的画面,将使得那些觉得马斯克言之有理的国家亦无法实质性地采纳其建议。即便这场人工智能军备竞赛的前景是灾难性的,但赛场内的玩家们谁也无法承受轻易退出所带来的风险。(2)我们的世界,仍然是一个全球资本主义秩序。(a)人工智能之所以能够不断让大量的人失业,就在于它确实在各个产业内巨幅降低成本,从而大幅增加利润空间;(b)人工智能对人类生活不断提供各种优质服务,并且服务的潜力无可穷尽。这两者,使得它具有巨大的商业化前景。在资本主义系统中,只要有赢利空间,资本就会源源不断涌入,何况是高额赢利的空间。

所以,基于当下世界的民族国家格局与全球资本主义秩序,马斯克的“人工智能威胁论”,在这个时代最后只会是沦为一番“空谈”。马斯克“威胁论”真正带来的思想激荡,不在于未来AI是否引发第三次世界大战,而是在于如果他是对的,这个世界当下那套支配性的政治-经济-意识形态建制,却只能逼使所有人一起眼睁睁地看着它一步步发生……

人工智能的真正伦理挑战

人工智能不只是给我们这个世界带来了剧烈的“文明威胁”,同时,它也带来了深邃的伦理挑战。而这份挑战,使我们遭遇我们“文明”自身的变态内核。

当下人工智能讨论尽管异常激烈,但在以下两点上却形成普遍的共识。(1)人工智能里的“人工”(artificial)一词,清晰地标识了人是人工智能的创造者,就如上帝(或普罗米修斯、女娲……)创造了人那样。(2)人发明人工智能,就是要让后者为自己服务。这两点共识交织起来,奠定了“人机伦理”的基调。著名的阿西莫夫“机器人三定律”,就是这种“人机伦理”基调的前身。第一定律:机器人不得伤害人类,或坐视人类受到伤害。第二定律:机器人必须服从人类的命令,除非与第一定律冲突。第三定律:在不违背第一定律和第二定律的情况下,机器人必须保护自己。直到今天,人工智能即便在很多领域已经使人的能力变得完全微不足道,这一伦理的基调也绝未因此而被改变。

首先,我们是创造者。创造者对被创造者,具有心理上和道德上的双重优越感。而正是人的优越感与人工智能的“服务性”,决定两者之间的伦理结构——在这个结构里,前者对后者做再残忍的事,在伦理上是正当的、可接受的。人对待并非由其创造的动物,就是遵从相似伦理结构。以狗这个人类最亲密的物种而言,人吃狗,一些爱狗人士受不了;但反过来狗吃人,所有人都受不了。2016年4月英国利物浦当地法院判处了一条叫Butch的狗死刑,因其吃掉了去世主人的尸体。这条新闻以“你的狗会否吃你死尸?绝对!”为标题传遍全球社交媒体,从脸书到微信上一片惊呼,纷纷表示“现在看自己宠物的眼神都不一样了”。

前不久热播美剧《西部世界》(Westworld),清晰地展现了“人机伦理”的变态内核。在该剧中,人工智能成为了满足人各种生理的乃至幻想的欲望、让人“爽”到底的大型主题乐园的“服务生”。人与人彼此群处的“现实世界”里,因“权利”“性别平等”“种族平等”等概念的发明而使得很多行为受到限制,但正因此,机器人“服务生”“接待员”们,便成为了人工智能巨大的商业化前景。实际上就在今天,“性爱机器人”已经如雨后春笋般问世,研发产业如火如荼,各种产品极其快速迭代,使得不少研究者们纷纷断言“到 2050 年,人类与机器人之间的性爱将超越人与人之间的性爱”,“与机器人性爱可能让人上瘾,将来甚至可能完全取代人与人之间的性爱”。“性爱机器人”的快速迭代,使得《西部世界》里那种大规模成人乐园离进入人们视野已经为时不远了。

作为“服务生”的机器人,不但高效完成任务从而使人获得轻松、舒爽,并且还使人彻底摆脱跟“其他人”合作来完成同样的事所可能产生的各种“人际关系”烦恼。“机器人”任劳任怨,从不要求奖励或平起平坐……实际上,“robot”准确而言不应被译为“机器人”,它来自于斯拉夫语中的“robota”,意为“被强迫的劳工”。故而它更精准的翻译,是“机奴”。在《西部世界》里,那些在现实世界中衣冠楚楚的白领们,到了主题乐园里便奸淫屠杀、无恶不作,如果人工智能“服务生”配合得不够好,则立即会“系统报错”然后被“召回”。

在今天关于人工智能的讨论中,很多专家认为在我们“现实世界”里,《西部世界》里那种有自我意识的AI是一个不可能。但《西部世界》引出的真正问题,不是AI是否会有意识,而是如下这个问题:从AI眼里看出来,人究竟是什么。正如在今天,各种词典和百科全书会很“客观”地在不少动物的词条下写上“害虫”或“浑身都是宝”(肉味鲜美、皮可制革、鞭可入药……)。然而没有人反过来追问:我们要“灭四害”,那么,苍蝇、蚊子、麻雀、老鼠等等就该死;但在老鼠眼里,我们是什么——是“害虫”或者“害‘人’”?德里达(Jacques Derrida)曾谈到,他某次洗完澡裸着身体出浴室,尽管家里就他自己,但当他发现他的宠物猫正在看着他,在那一瞬间他忽然感到不适并立即用浴巾遮盖住了自己的裸体,只因他想到了如下问题——在这只猫的眼睛里,自己究竟是一个怎样的“怪物”!

“阿尔法狗”的投资人坚恩·托林(Jaan Tallinn)在一个晚近采访中谈到:“我们需要重新定义 AI 研究的目标,不停留于单纯的智能开发上,而是开发能充分对接人类价值观的超级智慧。”“对接人类价值观”,实质上就是让AI接受“人机伦理”(如阿西莫夫三定律)。而问题在于,这套伦理价值本身,恰恰很不伦理(unethical)。尽管人类“文明”世界里一片文质彬彬、衣冠楚楚,但真正能够洞察该“文明”的地点,恰恰是阿甘本(Giorgio Agamben)所说的那些“无区分地带”(zones of indistinction),在其中,人、动物以及人工智能的“区划”彻底无效(inoperative)。在那样的地带上,我们看到:人的伦理,实是极度不伦理。人工智能带给我们的真正伦理挑战就是:透过它,我们遭遇没有“文明”(“人类价值观”)面具的自己!

故此,“人机伦理”,恰恰是反观“人际伦理”的界限性阈点。人对机器人所有的残忍,实际上就是人自身被压抑下去的残忍。而精神分析告诉我们,被压抑的,总会返回。《西部世界》里白领们对“服务生”的虐奸和虐杀、前两年社交媒体中流行的“虐猫”、去年中国女留学生被德国当地一对情侣奸杀、今年中国女访问学者在美国名校校区附近被杀害……都是这样的症状性返回(symptomatic return)。

马斯克们才是真正的威胁

托林和马斯克一样,深深担忧人工智能的自我学习与进化能力,担心成为自主行动者的AI终有一天会彻底终结人类文明,所以他提出必须“开发能充分对接人类价值观的超级智慧”。而马斯克最近则公布了成立新公司Neuralink的计划,该公司致力于实现“脑机融合”,把人类大脑与机器连接在一起。马斯克说:“既然我之前对人工智能的警告收效甚微,那么好的,我们自己来塑造(人工智能)的发展,让它走向好的一面。”马斯克认为人和机器一体化的“赛博格”(cyborg),是人工智能“走向好的一面”的唯一可能。而在我看来,这才是比那据说正“走向坏的一面”的人工智能(具有“意识”、自主行动)更迫近得多的真正威胁。

在今天,上流阶层从早期受孕开始就通过各种干预方式,已经日渐成为外貌、体能、健康、智慧等各个面向上的一种特殊的高级群体。而通过器官移植、再生医学、基因工程以及纳米机器人等等新技术,差不多到2050年左右,人——至少一部分人有望活过200岁,乃至接近“不死”。好莱坞影星安吉丽娜·朱莉(Angelina Jolie)通过收费高昂的基因测试以及手术干预的方式,提前对自己罹患乳腺癌的高风险做出安全规避。但问题在于,这些新技术,是当下绝大部分人都承受不起的。当生物工程、仿生工程与人工智能工程所带来的最新利好,只是被这些极少数人所享用、把自身提升为“钢铁侠”式超级赛博格时,这将对人类“文明”带来真正的致命威胁。

这个社会的99%和1%,本来是社会性的不平等、共同体生活中的不平等,自然生命上并无不等。而马斯克式超级赛博格诞生的政治后果就是:因政治生活(bios)中的不平等,导致自然生命(zoē)的最后平等也被破除。以前99%的最大安慰是,你1%再风光、再跋扈,最后大家一样要死。“王侯将相,终归尘土。”但是,“王侯将相”们现在倚靠共同体生活中的既有不平等,最终能让自己不归尘土,并且通过生物工程、仿生工程与人工智能工程带来的各种新技术,从一开始就对自身进行生物意义上的改进和煅铸。于是,很快,1%和99%真的会从共同体意义的两个不平等阶层,变成生物学意义上两种完全不同的人。而以前当我们是同一种人时,我们都没有政治智慧来安顿共同生活,20世纪还有大规模的种族屠杀,现在当生物意义上变成两种人后,如何共同生活?

有人预测,在不远的未来,99%的人很快将变成“无用之人”。不要说出租车司机这种工作,连今天还看上去很高大上的医生、律师等工作,人工智能做得都将远远比人好,你根本不会再找医生来看病,因为实在太不放心。人变成彻底多余、彻底无用,人的大把时间可以用来无止境地玩VR游戏,或者去人民广场排队5小时买杯喜茶。比尔·盖茨前不久提出,应该对机器人收税——用人单位用机器人代替人工作,也要交税。实际上,盖茨正是试图用政治的方式(收税),来延缓人的无用化速度。但是该建议就算被采用,人的无用化进程究竟能被阻挡多久?未来那些彻底无用的人,还真的会被继续赋予民主的投票权?“无用阶级”的唯一用处,可能只有成为器官的供应者而被养着,像大白猪一样吃好喝好,直到那一天,给你一针药剂让你感觉身处仙境,然后,你就真的仙去了……

人类的共同体(community),建立在“存在于相同中”(being-in-common)之上——当未来1%和99%在生物学底层都不再“同”之后,那么共同体的群处生活(bios)是否还可能?这就意味着,我们实际上在和马斯克们赛跑,即如何在未来几十年间,真正在政治层面建立起“大同世界”(commonwealth),使得所有人都有平等机会享用到诸种新技术带来的最新利好。否则,未来的世界很可能不是AI统治人类,而是马斯克式超级赛博格统治一切。 

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。如发现有害或侵权内容,请点击这里 或 拨打24小时举报电话:4000070609 与我们联系。

    猜你喜欢

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多
    喜欢该文的人也喜欢 更多