【原】海妖服务器

Deep-Sci："-sci-"源自拉丁语的"scientia"（知识）

小科

物语

+

隐形的电子智能体正不断涌现出来。

【每日一篇】

道常无为而无不为。侯王若能守，万物将自化。化而欲作，吾将镇之以无名之朴。无名之朴，夫亦将不欲。不欲以静，天下将自定。

——《道德经·道常无为》

机器是否能思考，与潜水艇是否能游泳的问题很像。

——艾兹格·迪科斯彻

当我们想到人工智能的时候，非常容易在脑中想象一幅画面。

要么到处都是温顺的仆人，要么到处充满了恶毒的主人。

或者，是埋在防御性碉堡中的巨型计算机大脑。

还有，没有什么能像面目狰狞的半机械人那样惹你生气了！

但这只是我们拟人化的偏见，不胜枚举的未来科幻电影误导了我们。

人工智能和人类智能并不相同，至少现在看起来是这样。

比如，帮你寻找约会对象的网站和帮你割草的机器人。

它们的做法是否和你一样并不重要。

也就是说，人工智能是否像人类并不重要。

重要的是，它们会以你永远都无法达到的速度、准确度来完成这些工作。

并且将花费更低的成本。

完全区别于科幻电影的描述，真正的人工智能世界并不是那些拟人化的想象。

真正的危险来自像成群的昆虫一样、由分散式的小型人造劳动者组成的军队。

真正的危险来自存在于云端远程服务器中没有实体的合成智能。

但是，人类很难为自己无法看见或感受到的威胁而担心。

类比来看，工业革命早期的卢德派至少还可以毁掉夺走他们工作的织布机。

但人工智能时代的人们，又将如何才能回击一个手机应用呢？

这一波人工智能浪潮中，相关领域的研究在两个方向上有所突破。

第一类新系统已经进入应用阶段，它们从经验中学习。

但是和人类不同，人类所能吸收的经验被广度和规模所限。

而这些系统却能够以极高的速度检查有意义的海量样本。

它们能理解我们所熟悉的视觉、听觉以及书面信息。

它们还能理解那些我们并不熟悉的“穿行”在电脑和网络中的数据。

想象一下，如果你能用上千只眼睛看，能听到遥远之处的声音，还能阅读所有已出版的内容，那你将会变得多么聪明！

你可以在闲暇时品味和细思这个世界，然后就会知道这些系统是如何感受它们的环境的了。

你可能会认为它们展示出了超人的智力，但这绝对是误解。

至少在可以预见的未来。

因为这些机器没有意识、无法反思，不会展示出丝毫的独立意愿或个人诉求。

换句话说，它们没有思想。

从越来越多的传感器中积累着数据。

比如空气质量检测、交通流量监测等。

我们对自身做着越来越多的量化行为。

比如网络搜索记录、信用卡记录、出行记录等。

随着数据的爆发式增长，这些系统从中掌握了人类大脑无法企及的模式和见解。

但是，人类几乎无法真正想象和体会到人工智能所“感知”的一切。

这是因为对于像我们这样简单的生物来说，根本没有能让我们理解的解释。

而这类系统被称为合成智能。

第二类新系统来自传感器和执行器的结合。

它们可以看、听、感觉，还能和其所在的环境进行互动。

当传感器和执行器相结合时，你会把这种系统视为“机器人”。

但有一点值得提醒，那就是两者并不一定需要存在于同一个物理容器中。

传感器可以散落在某种环境中，比如你的智能手机，或路边的路灯里。

其观察端则被收集和存储在某个遥远的服务器集群上。

这个集群会利用一些信息制定计划。

随后，这个计划可能会通过控制远程设备被直接执行。

这类系统是强大的，而且它越强大就会让人觉得越简单。

它完成的是人们习以为常的任务。

这些系统虽然缺少常识和一般性智力，但却能好不疲倦地处理混乱。

在混乱而多变的环境中完成种类庞杂的工作。

它们会在外执行任务，比如粉刷房屋、清洗人行道。

这些系统被称为机器人或者人造劳动者系统。

合成智能和机器人这两类系统的结合，将不仅会把人类从痛苦的杂务中解脱出来，还会让你变得更高效。

当然，前提是你能够负担得起这些系统。

但是，真正的危险随之而来。

人类很容易被眼前的利益所欺骗。

具有先见之明的思想家杰伦·拉尼尔把这种系统称为“海妖服务器”。

荷马史诗中，海妖塞壬用她们魅惑性的歌声，让旅途中的水手们丧失意志、迷失于归途。

像神话故事中迷惑人类的海妖一样，它会根据你的意愿为你量身定制短期激励，劝你去做一些并不符合你长期利益的事。

冲动消费和快速送达所带来的无法抗拒的诱惑可能会蒙蔽你的双眼，让你看不清它对你所珍视的生活方式造成的缓慢而具有毁灭性的影响。

问题的核心原因则更加凶险：隐形的电子智能体正不断涌现出来。

它们代表着所有者的狭隘私利，并以此为原则采取行动，除此之外它们并不关心对其他人造成的任何影响。

在即将到来的高智能时代，人类面临的真正危险或许并不来自那些面目狰狞的半机械人，而是来自放大了的人性。

▼ 你听到塞壬的歌声了吗？

✨星星发亮是为了让每一个人有一天都能找到属于自己的星星

▼