人工智能绝不仅仅是被动的去识别知识库中的已有知识，而是要使得机器具有自主学习的能力，这就会带来一种担忧：一旦机器人具有了自主学习的能力，其进化的能力或许比人类更快，以至于有一天机器人将会领先人类。而未来或许解决之道是人与机器人之间成立某种“契约”，能够使得强大的机器人服从于“弱小”的人类。
关于未来的技术这个话题，我们发现，大家在谈论科技的时候往往忽略了人、机器、计算机对我们人类的工作、思维、行为的影响，所以我想和大家分享我们人类和目前高度发展的科技之间的关系。
谈到科技这个话题，不能不考虑科技对人类现在行为和思维的影响、计算机和人工智能对我们生活的侵入。我们可以想象很多人类从事的大量工作已经被各种人工智能设备所复制和替代。比如我们熟悉的航空领域，很多的航空员在驾驶的时候，更多依靠科技，他们更多关注驾驶舱的屏幕而不是窗外来操纵这些设备，这让我们感到，今天的飞机不是驾驶员操纵的了，而是计算机软件在控制。
随着这些技术的在我们的生活空间和工作空间中大量引入，一个共同的体验就是，我们都在某种玻璃的框子里边工作，也就是说大家都离不开某种屏幕。我们被屏幕围绕和控制，在未来几年里，好像不借助某一种计算机或者屏幕的话，似乎就不太能做具体的事情。我把这种无形的影响比喻为“玻璃笼子”，那它带来的危险是什么呢？对于飞行员来说，这种“玻璃笼子”切断了飞行员应有的知觉、感知和敏锐的反馈，这种危险存在于我们的生活里，会切断人与人之间以及人与世界之间的互动，会使我们的感知、思考和思想受到严重的封锁。
几年前在斯坦福，有实验发现人们越多地使用计算机来工作，某些能力下降越明显，就是通过细微的信息获得重要判断的能力大大下降了。这意味着我们从屏幕或者智能设备上获取信息的习惯，逐渐把人训练成对新信息的获取能力，缺不管这些信息是否重要，也不去考虑它们是否值得思考。我们对这些智能仪器的过渡依赖，影响人类判断力和选择信息的能力。
至于人工智能和计算机，在多大程度上会对我们人类的生活产生影响，这很难作出预测；到底哪些信息值得考虑，哪些是重要的信息，我们很难一眼作出简单判断。但是事实是，随着这样的领域不断扩张，我们可以很快发现，越来越多工作被机器人或者是智能设备所代替。我把它划分为四个大类，一是劳动力付出的工作，需要付出巨大的体力；二是分析性的工作，就是对某一个情景局面作出判断的工作；三我把它叫做说服性的工作，就像市场营销，要让他人作出你希望的动作；四是创造性的工作，这种工作需要发挥大量的想象力。
在这些四大类的工作领域里，计算机、机器人和人工智能在多大程度上已经在取代人类的工作，发挥着他们的作用和影响？
举例来说。几年前很多人认为机器人不可能替代人类做行为上的工作，比如在机车驾驶方面，仅仅短短的一两年时间，Goole等公司已经制造了无人驾驶汽车，虽然不是百分之百的自动化，但是很大程度上已经是人工智能来操纵了。
分析领域的工作也被人工智能替代。比如说在医疗领域，以前需要依靠大量的训练，有大量经验技巧很高的医生来判断是不是得了癌症，而现在的影像技术提供了大量数据，帮助医生在诊断上作出判断。
在说服的领域，计算机已经应用在训练人类行为改变方面。比方说健身，随着大量软件APP的应用，通过软件技术来提供食谱、健康的作息习惯，不断介入，影响你的思考、动机，从而使你被引导到一个他所期待的、对健康生活的解读方式上。这都是人们以前难以想象的，不能相信计算机或者是机器人能够介入人类如此私密的行为和思维空间。
创造性的工作里，计算机做得也越来越多的。比如Goole已经设计出这样的软件，可以帮助人们进行建筑设计或者城市规划，根据需要说出需要的功能或者目的，这些想法经过计算机处理以后，能够把整个建筑的勾画图或者城市规划做出来。
我们看到，在人类从事的不同工作领域里，大量的计算机和人工智能在产生替代作用，如果我们把它看作一种进步的话，很多人就会问，人类还有存在的必要吗？计算机可以为我们做所有的事情，我们可以用更多的时间去休息了。我个人认为这是一个错误的想法，人类所有的工作被计算机或者人工智能全部替代的日子实在是太遥远了，我想在可见得未来里，人类和机器人的分工，最好还是人类做人类最现场的工作，计算机从事计算机所能从事的最擅长的领域。我们面临最大的挑战是，我们如何设计一个系统，使计算机和人类各自发挥自己的长处。
如何在人类工作和计算机之间做好分工，是一个非常具有挑战的系统。不幸的是，目前为止这方面的工作对我们来说仍然是一个困境。通过对很多因为自动化带来的失败局面的研究发现，人和计算机互动的过程，会发生很多原来也意想不到的问题，比方说计算机的大量介入，使人处在依赖的地位，会产生两个现象。一是过渡依赖，就是人们期待计算机做大量的工作，人会有一种倾向性，不会再投入更多的精力关注事态的进展和变迁；另外一个变化是，对自动化产生一些成见或者错误的偏见，这种偏见来自于人们对机器或者计算机过度信任，认为这些仪器提供的数据都是最完美、最可信的，进而会使生活出现错误甚至灾难。
比如2009年发生的一起飞机失事事件，就是因为对计算机过渡依赖而产生的。调查结果显示，在飞机失事过程中，飞行员过渡依赖驾驶系统，没有注意观察在行程中发生的信息变化，这时候驾驶员所采取的行动是反的，结果就是飞机失事，机上所有人员全部遇难。
从大量的对自动化过渡依赖所带来的问题，我们可以从更深层次看到它对人类生活的影响。因为我们人类发展的过程，更多的是通过或简单或复杂的工作中掌握的技能来实现的。如果软件本身的设计不够好的话，便会把我们引向歧途。随着技能的提高，人们不断去接受更新的挑战，这样人类的技能才得以提升，而且在这个过程里，人类也获得对生活的满足感。所以这不仅仅是一个技能提高的问题，也是人类深度学习的问题，对大量自动化的过渡依赖，也会影响人类自身的发展和学习。
如果过渡依赖人工智能，人类的学习能力会大大削弱。在软件设计领域里，程序员们非常擅长简化问题，人类的学习过程本来是周期性的，发现一个困难的情景，就要去应对它，但是程序员设计软件，就是使人类不必去应对困难的局面。可以说计算机软件这种智能的应用，打断了人类自身学习成长的周期链，人类只是沦为一个计算机的操作人员。而人类如果能够从深度介入到付出努力、面对困难、问题得到反馈、再继续提升的话，那么人类自身的发展就是不同的。
为什么人类不能满足于做一个计算机操作人员，只要动手滑动鼠标就能获取信息解决问题呢？因为这里的深层含义是，人类自身的很多高级能力是不可替代的，不可以由计算机来完成的。对我们个体和社会来说，很多关键的能力、促进社会向前发展、人类向前进步的能力，是靠我们自己来滋养的。这些能力包括概念思维的能力、创意思维的能力、还有批判性思维的能力，这都是要人类自身通过自己的体验、亲自的操作来实现的。如果阻止我们或者妨碍我们更深入地在人类自身的智能上体验和发展的话，那对个体和社会的发展演化都将成为一个重大的问题。
我说这些并不意味着说所有的自动化、计算机或者软件都是不好的，我想强调的是这些工具都可以被人类所应用，只是怎样应用能够推动人类实现最终目标，是我们面临的一个重要的挑战。而我们所面临的最重要挑战就是，我们在不断研发这些科技产品，在设计这些高度科技能力背后的基本哲学是什么？有人强调以技术为中心的自动化发展哲学，就是说所有的一切都是以计算机的能力发展为主，剩下的边缘能力就让人类来把控。另外也有一种观点以人类发展为中心，就是说去发现人类最擅长的领域是什么，如果把人类最关键的能力发挥出来，然后让所有的人工智能、计算机或软件成为人类发展自己能力的工具，来起辅助作用。
总结一下，我想今天的人类面临这样一个重要的抉择，就是在计算机或者自动化越来越普及、越来越被大力推进的时刻，在人和机器之间，到底谁控制谁呢？我的观点是要让技术为人类服务。
