分享

阮一峰:卡辛斯基的警告

 圆角望 2017-09-18


卡辛斯基的警告



阮一峰

IT专栏作家


1978年5月25日,美国西北大学的工程教授巴克利·克利斯(Buckley Crist)收到了邮政局退回的一个包裹。他请保安打开了包裹,里面是一颗炸弹,立刻爆炸了。保安身受重伤。


此后18年,类似案件一再发生。凶手一共寄出16枚邮件炸弹,炸死3人,炸伤23人。袭击对象主要是大学的理工科教授,所以凶手被称为“大学炸弹客”(Unabomber)。联邦调查局(FBI)想尽办法查找凶手。十几年的调查中,动用了500名特工,误抓了200多名嫌疑犯,接了2万多通检举电话,花费500万美元,一无所获。此案成了FBI史上最昂贵的调查之一。


1995年,凶手又一次作案,这次寄出了四样东西——两个邮件炸弹,炸死了加州林业协会的总裁吉卜特·莫里,炸断了耶鲁大学计算机科学教授大卫·加勒特的几根手指;一封警告信,警告1993年诺贝尔奖获得者遗传学家理查·罗伯特、菲利普·夏普,要求他们立刻停止基因研究;一篇长达3.5万字的文章,承诺如果美国主流媒体一字不改地全文刊登,他就将永久停止炸弹袭击。FBI和美国司法部最终同意。1995年9月19日,《纽约时报》和《华盛顿邮报》发表了这篇文章,题为“论工业社会及其未来”(Industrial Society and Its Future)。


读者惊讶地发现,这是一篇充满思辨的哲学论文,作者明显受过学术训练。论文称,工业革命带来的是人类的灾难,技术使人类丧失自由,最终将导致社会的动荡甚至毁灭,因此人们应该摧毁现代工业体系。这就是凶手为什么袭击大学教授的原因,因为他们推动了技术的发展。


更让人吃惊的是,这篇论文很有说服力。许多人开始认真思考作者的观点,主流的知识分子杂志(比如《大西洋月刊》《纽约客》)均发专文讨论它。那位被炸断手指的教授大卫·加勒特承认,文章中的推断不无道理,工业文明时代、人类的未来,也许真的险恶重重。Java语言的发明人计算机学家Bill Joy则说,他对文章预言的未来深感困扰。艺术家更深受影响,后来许多小说和电影(如《黑客帝国》)中,都能看到这篇论文的影子。


就在论文发表后,联邦调查局收到一条线索:知情人说,此文的写作风格和论点,很像是他的弟弟泰德·卡辛斯基(Ted Kaczynski)。1996年4月3日,卡辛斯基在蒙大拿州被逮捕,他的小木屋里面堆满了炸弹原料。至此,邮包炸弹案宣告破案。


卡辛斯基的人生很不寻常。他生于1942年,从小就有超人的数学天分,16岁被哈佛大学数学系录取,20岁进入密歇根大学读数学博士,几个月就拿到了博士学位。指导教授说他的博士论文十分深奥,全美只有十几个人能看懂。25岁时,他被加州大学柏克莱分校聘为助理教授,是该校史上最年轻的教授。


他在柏克莱待了不到两年就辞职,从此离群索居。他在蒙大拿州山区盖了间小木屋,屋里没有电灯电话自来水。平日他吃自己种的菜、猎捕的食物,晚上点蜡烛看书,砍柴做饭取暖。被捕后,他拒绝律师为其辩护,1998年被判终身监禁,不得保释。


卡辛斯基这篇论文值得细读,它对人类现状和未来的分析描述非常震撼。作者第一句话就是:“工业文明带给人类的是极大的灾难。”他认为,新技术的最大问题就是剥夺人类的自由。“自由与技术进步不相容,技术越进步,自由越后退。”


作者假设,人类面对高智能机器只有两种选择:一是允许机器在没有人类监督的情况下作出所有决策,二是人类保留对于机器的控制。前一种情况,人类会沦落到一个完全依赖机器的位置,只能接受机器的决策。随着社会问题越来越复杂,而机器越来越聪明,人们已不能关上机器,关上就等于自杀。第二种结果也很糟。这种情况下,一般人也许可以控制自己的私人机器,如手机、私人电脑,但大型机器系统的控制权将落入一小群精英之手。大众成为了多余的人,成为了体系的无用负担。


退一步说,如果人工智能没有取得成功,人的工作还是必要的,但当机器接管了大部分具有真正重要性的工作以后,留给人类的都是一些相对不那么重要的工作。


卡辛斯基的结论是:未来要么人类无法幸存,要么个人空前地依赖大型组织,空前地“社会化”。人类的生理和心理将是设计和改造的结果,而不是自然的产物。他认为,惟一的解决方法就是放弃科学技术,“并勇敢地承受其后果。”


这篇论文发表于20多年前。如今互联网和人工智能都大大进展,人类对于新技术的入迷简直到了无以复加的地步。一项新技术还在实验室中,人们就开始计划如何占领尽可能多的市场。我们不能不担心,卡辛斯基的预言似乎正一步步变成现实。


    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多