《连线》杂志重磅访谈：美国总统是如何思考人工智能的机遇与挑战？

本文是美国《连线》（Wired）杂志最新一期上刊载的奥巴马总统访谈实录。围绕着人工智能技术将带来的机遇与挑战，这番对话为我们提供了一个难的机会，来了解世界第一强国的元首是如何从战略角度思考这些问题的。

要论未来50年塑造世界的技术，恐怕无出人工智能（AI）之右者。

机器学习让计算机具备了自学能力，由此催生出一系列技术突破，从医疗诊断到自动驾驶汽车，无所不包，但人们的担心也接踵而至。

AI将由谁控制？会不会夺走我们的工作？AI危险吗？

关于这些问题，美国总统奥巴马很想阐明自己的观点，于是他邀请了麻省理工学院媒体实验室主任、创业者伊藤穰一（Joi Ito）以及《连线》杂志主编斯科特·达迪希来一起讨论。

三人聚首白宫，对围绕AI 的前景、炒作和恐惧作了一次梳理。

斯科特·达迪希：感谢两位到场。总统先生，今天过得如何？

奥巴马：忙，充实。你也知道，这样那样的国际危机。

达迪希：人工智能已经从科幻小说变成现实，改变着我们的生活，所以，这次的谈话不妨以人工智能为中心。

您从什么时候开始意识到，真正的AI已经降临？

奥巴马：我总体感觉，AI正在以各种方式渗透到生活当中，只不过我们没有察觉罢了，因为我们对AI的认识受到流行文化的影响。

AI有广义和狭义之分。

科幻小说描绘的应该都是广义的AI，没错吧？在这些作品里，计算机智能开始超越人类，觉得人类一无是处，结果，我们要么被计算机当成了猪来养，要么发现自己生活在虚拟世界里。

跟我的科学顾问聊下来，我的总体印象是，我们离那种局面还算比较遥远。

但探讨还是值得的，因为它能拓展我们的想象力，让我们就选择和自由意志等问题展开思索，即使是在狭义AI中，这些议题也能派上大用场。

狭义的AI就是利用算法和计算机，解决日益复杂的任务，它在我们生活中已经随处可见，在医学、运输、电力分配等各个领域，它都有望大幅提升生产力和经济效率。

如果加以合适的引导，它能带来巨大的繁荣和机遇，但它也有一些缺点，比如吞噬就业、加剧不平等现象、压低工资水平等，这些问题都有待解决。

伊藤穰一：我在麻省理工的学生听了可能会不大高兴，但我确实有些担心的是，他们绝大多数都是白人男生，围绕AI这个中心，构建着核心的计算机科学。

相对于人类，他们更喜欢跟计算机对话。很多人都觉得，只要能把广义AI这种科幻变成现实，他们就不用担心政治和社会领域中那些复杂的问题了。

他们认为，靠机器能解决一切。

奥巴马：没错。

伊藤穰一：但他们低估了其中的难度，我感觉从今年开始，人工智能不再仅仅是个计算机科学问题。

大家都要明白，AI采取何种行为方式，这也是一个重要的问题，在麻省理工学院媒体实验室，我们采用的是“扩展智能”（用机器学习来扩展人类智能）这一术语。

因为问题在于：构建AI时，我们如何将社会价值观融入进去？

奥巴马：上次我和伊藤共用午餐时，他拿自动驾驶汽车举了个例子，这种技术基本已经实现。

机器已经能快速做出一大堆决策，大幅降低交通事故的死亡人数，提高路网效率，并削减导致地球变暖的碳排放。

但伊藤提出的一点引人深思，我们要给汽车灌输怎样的价值观？你不得不做出一大堆抉择，其中一个经典问题是：你开着车，径直往前就要撞上行人，但转弯就会自己撞墙丧命。

这是一个道德抉择，而这些规则该由谁定？

伊藤穰一：在研究这个难题的时候，我们发现，大多数人都倾向于选择牺牲司机和乘客，从而保全人数更多的行人。

他们还说，打死也不买自动驾驶汽车了。[笑]

达迪希：当AI开始涉及道德问题时，政府将起到何种作用？

奥巴马：对于AI崛起过程中的监管架构，我的思路是这样的：在技术发展的早期，应该允许百花齐放。

政府应该少加干预，但大力投资于研究，确保基础研究与应用研究之间保持沟通，随着技术的发展和成熟，我们就要开始思考一个日益迫切的问题——如何将其纳入已有的监管架构。

政府开始加强干预。

倒不一定要迫使新技术契合现有的条条框框，关键在于，监管要反映出广泛的基本价值观，避免出现对特定人群不利的情况。

伊藤穰一：不知您可曾听说过神经多样性运动，坦普·葛兰汀（Temple Grandin；科罗拉多州立大学教授，患有自闭症）经常提起。

她说，莫扎特、爱因斯坦和尼古拉·特斯拉这些人要是活在今天，都会被认为是自闭症。

奥巴马：他们可能都在自闭症谱系上。

伊藤穰一：对，他们都在自闭症谱系上，如果我们消除了自闭症，让所有人都神经正常，我敢打赌，一大批MIT学子都不会是今天这个样子。

不论是神经多样性，还是其他各类多样性，我们都面临同一个问题：何种情况下可由市场决定？你可能不想要自己的孩子像爱因斯坦那样，你会说，我只想要一个普通的孩子，但如果这样，就不利于社会效益最大化。

奥巴马：这就涉及AI话题中始终困扰我们的一个问题，在一定程度上，是缺陷成就了人类。

正是这些突变、异类、缺点促成了艺术或新发明，假如一个系统是完美的，那它想必会是静态的。

而我们是动态的、意料之外的，正因为这样，我们才成为我们，才活跃于此。

我们必须考虑的一个难题是，什么时候、在哪个节点上，我们才能恰合时宜地出手干预，让事情按照应有的方式，按部就班地运行下去？

达迪希：在“扩展智能”应用于政府、私人领域和学术界的过程中，如果这方面的研究有一个中心，这个中心应该设在哪里？

伊藤穰一：我想，麻省理工可能会力争这一头衔。[笑] 

传统上，这个中心可能是一群得到政府资助的学者，但现在，大多数十亿美元级的实验室都涉足该领域。

“

我倾向于乐观立场——我们一直都在接纳新技术，结果，新的就业被创造出来，人们的生活水平也得到提高。

——奥巴马

奥巴马：资助这些研究的人，我们都认识，和拉里·佩奇（Larry Page）他们聊聊就知道，他们一心追逐独角兽，最讨厌的就是被一群官僚拖后腿。

这种心情完全可以理解。

有一个问题是，社会对基础研究不像以前那样热心了，由于意识形态和政治修辞的改变，我们对集体行动的信心日益削弱。

登月已经过去50年了，但我们在形容伟大的技术成就时，还是会用它来做比喻。

有人提醒我说，当初太空计划的开支占到GDP的0.5%，听起来不多，但换算过来，相当于今天的800亿美元，这还只是一年而已。

当前，我们在AI方面的支出可能还不到十亿美元，日后肯定还会增加，但我们必须明白一个道理，要让突破性技术体现出多元化社会的价值观，政府资助就不能缺席。

假如政府不参与资助，那么伊藤提出的那些问题，也就是技术中植入价值观的问题，最终都可能被忽略掉，至少也是得不到充分思辨的。

达迪希：您提到的一种有趣的紧张关系，伊藤也曾写到过，就是边缘领域的创新和太空计划这类领域的创新，两者之间存在差距。

那么，我们如何确保那些思想被传播开来？

“

重要的是找到想用AI造福社会的群体和领导者，然后帮助他们使用AI。

——伊藤穰一

奥巴马：我曾经强调，政府出资赞助并参与数据收集，这并不意味着政府就一定将数据占为己有，或者数据被军方占有。

举个非常具体的例子：我们的精密医学项目就涉及数据收集，要从一组足够多样化的美国人样本当中，收集出一个足够规模的人类基因组数据库。

整个遗传数据库都是公开的，所有人都能访问，大家不用付钱给斯坦福或哈佛——这些地方都是把样本据为己有的。

我们有共同的价值观、共用的架构，确保研究是共享的，而不是成为某个团体的谋利工具。

达迪希：但其中肯定存在一些风险。

像伊隆·马斯克（Elon Musk）和尼克·博斯特罗姆（Nick Bostrom；牛津大学著名哲学家）他们都担心，也许有一天，AI会强大到超越人类的理解能力。

在向前迈进时，我们如何思索这些问题，从而保护我们自己，保护全人类？

奥巴马：先说说更迫在眉睫的问题——在狭义AI领域，这是可以解决的，但也要格外留心。

如果你的计算机已经能下围棋，那么开发一种算法，让它到金融市场上帮你赚大钱，这在短期内或许就可以实现。

如果某人或某个组织率先走到这一步，用不了多久，他们就会令股市崩溃，或者至少会让金融市场的公正性受到挑战。

又或者，可能有一个算法开始破解核密码，试图找出发射核弹的途径。

如果这是它唯一的任务，如果它能自学成才，而且又非常高效，那我们就有麻烦了。

对我的国家安全团队，我的指令是，先不要担心机器接管世界，现在要担心的是非国家行为体或敌对行为体对系统的渗透能力。

从这个意义上讲，它跟我们现在的诸多网络安全工作没有概念上的差别。

只不过，我们必须进一步改进，因为可能会部署这些系统的人，他们的能力已经大有长进。

伊藤穰一：我基本同意。

唯一要指出的是，少数人认为，未来十年内产生广义AI的可能性还是很高的，但在我看来，广义AI真要诞生，我们先要取得数十项突破才行。

所以，我们可以对这些突破发生的时间加以监视。

奥巴马：只要有个人站在插头旁边就行了，[笑] 眼看着要发生了，你立马把电源拔掉。

伊藤穰一：重要的是找到想用AI造福社会的群体和领导者，然后帮助他们使用AI。

“

今年开始，人工智能不再仅仅是个计算机科学问题。大家都要明白，AI采取何种行为方式，这也是一个重要的问题

。

——伊藤穰一

奥巴马：传统上，我们在考虑安全和自我保护时，想到的往往是盔甲或围墙。

但我开始渐渐转向医学，开始思考病毒、抗体这些东西。

网络安全仍是个老大难问题，因为它制造的威胁不像直面而来的坦克，不是看得见摸得着的，而是一大堆易受蠕虫入侵的系统。

这就意味着，我们必须改变思维方式，转换投资对象，它们可能现在毫不起眼，但日后却能显现出重要性。

这些年来，防控流行病爆发让我操透了心。对于一场通过空气传播的致命流感，你不可能建造围墙来防止它们登陆美国。

我们要做的是设置系统，在世界各地创建公共卫生系统，一有苗头，就触发警报，并确保我们拥有响应迅速的协议和系统，使预防接种更加智能。

因此，公共卫生的应对模式也好，网络安全问题的处置也好，在AI威胁面前，我们有很多东西可以借鉴。

伊藤穰一：我觉得通过观察微生物群系也有一个很有趣的发现。

有不少证据表明，一种可以采取的方式是引入好细菌来对抗坏细菌，而不是把所有细菌全部消灭。

Sunny和Bo：居住在白宫的“第一宠物”，是两条葡萄牙水犬。

奥巴马：对。不过，我还是不会让Sunny和Bo舔我，它们在草坪上啃些什么东西，我可都见识过。[笑]

伊藤穰一：我们必须重新思考“干净”的含义，网络安全或国家安全也是，都需要进行重新思考。

我认为，严格的命令，或是消除一切病原体，这些概念都是很难实现的。

达迪希：这有没有可能引发新型军备竞赛？

奥巴马：毫无疑问，无论是围绕整体网络安全，还是AI这一特定问题，国际规范、协议和验证机制的制定都还处于起步阶段。

有趣之处在于，进攻和防守之间的界线比较模糊。

如今，民众对政府的不信任逐渐加深，让局面变得非常困难。

世界各国都将美国视为首屈一指的网络超级大国，现在，我们可以站出来说：“如果你们愿意自我约束，我们就愿意自我约束。”比较棘手的是，手段最先进的国家行为体——俄罗斯、中国、伊朗——并不总是和我们秉承同样的价值观和行为准则。

但要取得实效，我们必须把网络安全和AI作为国际问题来看待。

伊藤穰一：我想，我们正处在这样一个黄金时期，大家都还愿意对话。

若能确保资金和精力都投入到对开放共享的支持中，我们就能有很多上升空间。

在真空环境中，你是不可能得到成长的，到目前为止，国际社会在此议题上还是一致的。

奥巴马：我认为伊藤说得很对。

正是考虑到这一点，我们才把所有感兴趣的人召集起来开会，刚才有一点没有展开，我想再提一下，那就是对AI可能造成的经济影响，我们不能不深思熟虑。

因为现在，大多数人都不怎么担心奇点，他们担心的是“我的工作会不会被机器取代？”

我倾向于乐观立场——我们一直都在接纳新技术，结果，新的就业被创造出来，人们的生活水平也得到提高。

我认为，由于AI和其他技术的普遍适用性，我们所处的时代已经稍有改变，高技能人士在这些系统中游刃有余，他们可以利用自己的才能，与机器交互，从而扩大影响力，促进销售，改进产品和服务。

低工资、低技能的个人显得越来越多余，可能他们的工作还没有被取代，但工资却被压得很低。

要成功地管理这一转型，全社会必须就如何管理展开对话。

如果我们的产值创历史新高，但越来越多的财富都流向了最上层的小集团，这时，我们该如何提供培训，如何确保经济的包容性？如何确保人们有收入，且这一收入能维持生计？对于扶持文化艺术事业，或是照料退伍军人，这些又意味着什么？

社会契约必须适应这些新技术，经济模式也必须适应新技术。

“

先不要担心机器接管世界，现在要担心的是非国家行为体或敌对行为体对系统的渗透能力。

——奥巴马

伊藤穰一：至于哪些工作会被取代，这个并不好说。

我敢打赌，如果现在有一台计算机非常了解医疗系统，并且擅长诊断疾病，那么，相对于护士或药剂师，更可能被取代的其实是医生——医生不像以前那么值钱了。

一些很高级的工作，比如律师或审计师，都有可能消失，而很多服务性、艺术类以及不适合计算机的职业，它们反倒不会被取代。

不知您怎么看待无条件基本收入（指政府以社会保障形式，向全体民众发放的一种生活费），但当人们开始失去饭碗的时候，我们或许可以看看其他模式，比如学术或艺术，在那些领域，人们的目的并不直接和金钱挂钩。

大家可能有一个笼统的观念：没钱的人能聪明到哪儿去呢？但在学术界，我见过很多没钱但很聪明的人。

奥巴马：没错，我所说的重新设计社会契约，就是这个意思。

现在，无条件基本收入的模式是否合理，会不会被广大民众所接受？这将是未来一二十年的一个辩题。

另外，我也同意你所说的，AI将取代的不仅仅是低技能的服务工作，也有可能是重复性的，或者计算机可以取代的高技能工作。

但不可否认的是，随着AI进一步融入社会，社会财富可能会大幅增加。

生产与分配，工作量与工作报酬，这些因素之间的联系都将进一步弱化，因为很多工作都将由计算机代劳。

因此，我们必须做出一些艰难的决定。

虽然教师是一份非常艰苦的工作，也难以用计算机取代，但教师的工资却没有达到应有的水平。

所以，我们要重新审视我们看重的东西，重新审视我们作为一个集体愿意高价换取的东西——无论是教师、护士、护理人员、艺术家，还是在家照顾孩子的父母，所有对我们来说格外宝贵，但向来与高薪无缘的职位，这是我们需要开启的对话。

达迪希：总统先生，对于您在政府中看到的最大挑战，您会用哪些技术加以应对？

奥巴马：我们有一大堆工作要做，为的是让政府服务更加便民，至少，报税要像订披萨或买机票一样便利。

无论是鼓励人们投票，还是让大数据服务于民众、让网上填表变得更加容易，要想把联邦政府、州政府和地方政府拉入21世纪，我们还有大量工作要做。

联邦政府和私营部门之间的差距不在人才，而在技术。进白宫前，我曾把战情室想象得很酷，就像汤姆·克鲁斯在电影《少数派报告》里那样，可以凭空挪物，结果完全不是那样。[笑] 

特别是在追击地球另一边的恐怖分子时，按照电影里的描绘，我们仿佛实现了全知全能，但实际没到那个地步，资金远远不够，设计也不合理。

对于更广泛的技术议题，我坚信，如果我们能妥善应对气候变化，踩下刹车，避免海平面上升6英尺，那么人类就有能力解决其他问题，我的态度是很乐观的。

我们做了很多有益的工作，但仍然任重道远。

在互联网上，我们应该以一种负责任、透明以及安全的方式监管互联网接入，如果能做到这一点，我们就能揪出坏人，同时确保政府不在我们的生活中拥有太多的权力，以至于成为压迫工具——对此，我们还在努力。

其中一些属于技术问题，加密就是一个很好的例子。

我已经多次会见民间的自由主义者和国家安全人士，这个问题其实很难，对于如何调和相关矛盾，没人能给出一个好的答案。

最新一期《连线》杂志讲的是前沿科技，所以最后我想提一下，我对太空也非常痴迷。但要迈入太空旅行的新时代，我们的经费还远远不够。

在这一方面，私人领域表现出色，开始资助一些疯狂的想法，取代政府资助。

而当我们考虑太空飞行时，我们想到的基本上还是“阿波罗号”的那些化学反应。

我不知道二锂晶体到底存不存在，但登月五十年了，我们该取得一些突破了。

二锂晶体是《星际迷航》中的一种燃料，星际联邦几乎所有飞船的曲速引擎都靠它驱动，从而实现超光速飞行。

达迪希：据我了解，您是《星际迷航》的粉丝，它的灵感来自对技术的一种乌托邦式设想——其中的哪些东西塑造了您的未来愿景？

奥巴马：我小时候对《星际迷航》毫无抵抗力，简直是百看不厌。

这部剧之所以能够长青，其实跟技术没什么关系，关键在于价值观和情感。

所以，虽然特效很简陋——他们会登上某个星球，上面全是纸糊的巨石，[笑] 但这也无伤大雅，因为它探讨的其实是共同的人性，以及对我们解决问题的能力抱有信心。

最近的《火星救援》也展现出同一种精神，不是因为它剧情复杂，而是因为在其中，一群不同的人都在试图解决一个问题。

发挥创造力，坚定决心，努力奋斗，并且坚信，只要有解，就能搞定。

这就是美国最让我欣赏的特质，也是为什么美国面临如此多的挑战，但还是继续吸引来自世界各地的人们——就是因为这种“可以搞定”的精神。

科学最令我敬仰的就是这样一种精神。

总要去尝试，如果不行，就弄清楚为何不行，然后尝试别的办法，错误让我们欣喜，因为它带领我们走向最终的答案。

如果哪一天我们失去这种精神，美国就失去了一种重要品质，人类也失去了一种关键品格。

伊藤穰一：我完全同意——我很欣赏《星际迷航》的乐观主义。

我也发现，星际联邦极为多元化，机组人员的组成充满了多样性，反派通常不是天性邪恶，只是误入歧途。

奥巴马：与任何优秀的故事一样，星际迷航说的是，我们都很复杂，我们都有一点像史波克，有一点像柯克，有一点像斯科提，也许还有一点像克林贡。

我说的“可以搞定”，就是这个意思。要搞定问题，就得翻过壁垒，绕过差异。

要对理性抱有信心，同时加入些许谦卑，最好的艺术和最好的科学都来源于此。

强大的头脑等待着我们去运用，到目前为止，我们都还只摸到一点皮毛，但不应就此骄傲自大，也要提醒自己，我们还有很多未知的东西。

 

翻译：雁行

来源：WIRED