|
2016人机大战李世石连败三局之后，AlphaGo的设计者出来说AlphaGo胜出有好些原因。除了学习能力、计算速度和海量棋谱参考外，主要是人会疲劳而AlphaGo不会，人的情绪会波动影响决策但AlphaGo不会。换言之，只要不断电，AlphaGo会永葆巅峰状态，以冷血般的平静不顾一切地把棋赢下来，不理棋型，不谈美感，只问输赢。这告诉我们，人类的意志已成功获得体外实现，摆脱了人体的生理缺陷，只要不断电，就能永不休战。
我想起很久前注意到的一个有趣现象，也是关于人类意志在体外实现，不过不是赢棋，是贪婪。人类一直在为自己的贪婪四处寻找低耗高报的体外“代理”途径：早年是类似委托给高利贷者，商业合伙等较为低级的阶段，但业主均须调查了解持续关注，须亲力亲为。随着社会集体奔富，代人理财的形式如雨后春笋般涌现——股票经纪人、理财顾问、投资公司应有尽有。此阶段人类的贪婪获得“半体外实现”——即业主的贪婪由他人代为实现，为业主省却不少心力体力，操作还更专业。半体外实现虽好但毕竟还是人在操作，代理人对重大决策仍须咨询业主，所以不能算体外实现，而只是心力体力分担。随着IT技术深入发展，业主（在代理人建议下）只需设定回报标准，即可由电脑进行操作，这是正经的体外实现，但仍有少量人工成分，比如设定标准，遇急应对等。进入21世纪，人工智能蓬勃发展，包括各种投资软件。它们可代业主查询，代业主分析，代业主判断，代业主决策，代业主应变，且很多情况下比理财投资经纪人还要胜任。至此，人的贪婪第一次实现了彻底的体外存在和体外循环。若干个体贪婪的体外循环交织连网，就形成了人类贪婪的集体体外循环。
这对人类是福是祸？
让我们以股票为例再深入考察一番。400多年前股份制还未发明，资本多寄生在未上市的那些作坊体内，其逐利强度虽有起伏（能力体力），但生意仍牢牢地依附于某个实体，有着实际的社会功效，某种实在的利润来源和与之相符的供求关系，不会产生泡沫。
股份制问世之后，公司上市股票流通，大部资本变为股票。股票可随时变卖，只要利益未最大化就一卖了之，股票买家同样只看利益是否最大化。在一次次买卖中，在一个个买家和卖家接力下，投资人不再关心该企业该公司的实际健康和命运，更遑论对行业和社会会带来哪些负面影响。投资人即使有意关心，时间也不允许（说不定几分钟之内就是大亏大赚，哪顾得上？）于是，股市之下，虽然资本欢笑，经济领域的各种有机关系却被打破了，病症也被泛起的浪花遮蔽了。在21世纪的今天大规模人工智能上台以后，资本的盈利能力和负面影响均呈几何级数增长。资本因软件和电具有了自己的生命，不再受股票持有人能力、体力和情绪波动的拖累，只考虑“此时这单盈亏几何”，永不会考虑长远的其他经济问题，对社会的功效问题，为着资本嗜血各自高歌猛进。这样的越战越勇，水涨船高对人类是福是祸？
股票市场和人机大战都发生了同一件事：人类某种意志被移植嫁接到第三者身上。嫁接之后，这个第三者会不惜一切地代程序设置人执行其“夺取”的意志，而问题就出在这里。
其一，不幸的是，AlphaGo打败李世石只是随便玩玩，并非设计者的最终目的。夺取利润之外，还可以夺取棋局，夺取情报，夺取财物，也可以夺取人命。这些精英可以像孙悟空吹一把毫毛那样将AlphaGo变身为无数AlphaX，从棋场轻松地转向赌场、商场、战场，转向海陆空、外太空和大自然，以排山倒海之势、无穷的体力和冷血般的平静，去夺取，夺取，再夺取，直至断电；其二，电很便宜（粗算一元一度），用机器人干坏事成本很低；其三，叫机器人干坏事会设置就行，不一定要会编程，所以让机器人干坏事门槛会越来越低；其四，“夺取”的任务容易设定，“道德底线”却很难。试想让机器人判定某行为会否造成经济领域的“无政府主义”以避免大量盲目个体活动造成的资源浪费……“电”很难感知道德，要在软件上下功夫似乎又会影响利润率，有违资本的本性；其五，作为电脑，其软件硬件都可能出错……试想这么多大大小小、形形色色、各怀鬼胎的AlphaX在全球各地游荡，我们将会身处一个怎样的世界！ 人心是贪婪的源头。股票市场承袭了人类的贪婪后，创造了一个在人体体外循环的“代理逐利发动机”，AlphaX则继承发扬并创造了人类贪婪的体外循环的“永动机”。这是人类贪婪的现代化——一个极其可怕的飞越。在股票市场的代理发动机里，人类的贪婪毕竟有时还要用手来发动，现在则可以用电来永动。想想人类还有多少欲望，多少贪婪，多少好奇要满足，有多少仇要报，多少恨要雪，多少谎要撒（间谍），多少税要逃，多少首要斩（美国风行“斩首行动”），多少乱要捣......这些统统可以轻易地开发一个AlphaX来完成，一按电钮就能开启并永动。
AlphaX是“贪婪+体外生命+超智大脑”的“多细胞生物”。试想如此众多的AlphaX，出生不需准生证，世上也没有户籍警，更没有“人口”控制规划；设计者可对其输入任何任务，人类社会今天也没有法律对其结果追责（即便有，立法速度也无法跟上这么多AlphaX出生的速度）。更严重的是，AlphaX被赋予超级自学能力后有可能发展到“自主”的地步（你就不知道它下一步会干嘛），其不可预测无法无天的秉性将不是让人类瞠目结舌，而是让人类落荒而逃。
在不久的将来，失控的AlphaX们将统治这个世界。它们完全有可能回头咬人类一口，就是那些精英始作俑者也将望洋兴叹——他们已把撒旦放出魔瓶。一国可以用AlphaX灭另一国，跟用细菌弹没什么不同。这个时代一旦开始，没有一个国家会坐视他国发展超级人工智能而自己坐以待毙，而大家都疯狂发展人工智能的结果则无异于世界大战。因此，人类贪婪通过人工智能机器人实现“体外循环”获得永生，这对业主是福音，对人类整体却是灾难。在最近的500年里，人类一直在赏玩自己的智能，生养一个又一个会反咬自己一口的怪物——核弹、细菌弹、化学武器、化肥、杀虫剂、除草剂、塑料、转基因、克隆生命、换头术、人工智能、机器人……人类终将被这些精巧的玩物一口一口精巧地咬死。人类一定是自己贪婪和智能的终极受害者。“机关算尽太聪明，反误了卿卿性命。”
怎么办？
张明说人类大限快到了，我赞成。但在大限到来之前，我们还得过。怎么过？笔者建议，就像李世石与AlphaGo五盘棋里胜的那盘那样——下一盘AlphaGo不认得的棋。
人具有远比逻辑推演精算多得多的属性——情操、良知、价值、审美、情趣、孝心、道德等只有生命才会有的东西，它们是冷血的机器（软件说到底还是机器）模仿不来的。这样说的根据是：人类如不能创造生命，也就不能创造生命才有的高级特质，所以AlphaX 对此将永远没有机会。人类在艺术、哲学、思想、幽默、体育、旅行、烹调、养生、友谊和乐善好施等方面有太多可以施展而AlphaX无法企及的空间，它们更能滋润我们的生命，安顿我们的灵魂。相对而言，人后天获得的逻辑推演精算能力对人类并非天然，乃后天经学习获得，且是一个极其痛苦的过程——只有年薪250万美元的少数人类可以玩得了AlphaGo。这些专家也许没有日夜没有周末假期，跟家人在一起时都可能言不对题。我们不要过这样的日子！人类现有的科技早就够重孙辈使用了，我们要拒绝这些“精英疯子”的折腾，拒绝他们带领众生走火入魔，绑架人类走向绝境。AlpgaGo 将来一定会异化，就像基因工程演变为基因武器那样，成为人类为自己精心编织再套上的又一条绞索。我们不能捡芝麻丢西瓜，要为人类的未来三思！
人类向何处去？皮科说“人可以自己决定自己的命运，通过自由的选择达到自己的目的，成为他自己想成为的人”；耆那教认为“人类不可能真正明了事物的真相，人类所有的思维都是一己之见，因此应当节制自己”；老子劝导我们“弃智绝学”；道家主张清心寡欲；儒家主张“践形尽性”；西方文明主张“没有做不到的，只有想不到的”；王东岳说他“对人的'自我克制’不抱一丝一毫的幻想”……阁下以为如何？
笔者主张同老子——“弃智绝学”，“小国寡民，使有什伯之器而不用”，“人法地，地法天，天法道，道法自然”；也同奥勒留相近（“宇宙啊，凡是与你相和谐的万物就都与我和谐，凡是对你适合时宜的对我也都不早不迟”）...... 也就是说，人类创新可以，但一定要追随自然，不要任随自己的心性。要在宇宙和大自然里寻找答案并拟定自己的行为准则（详见笔者另文“人类唯一的导师——大自然”）。
|
