分享

《协同进化》:ChatGPT终极威胁猜想,人类与机器的和谐共处之道

 自在飞花轻似烟 2023-05-12 发布于黑龙江

本书作者爱德华·阿什福德·李,是一位知名的计算机科学家,他认为机器作为一种生命形式,其与人类之间存在着协同进化的关系。

一、为什么机器可以看作是一种生命

“机器是一种生命”这一观点可以从机器个体、机器与机器之间,机器整体三个层面有所体现。

在个体层面,机器与人类有很多相似之处。以手机为例。手机会对外界刺激做出反应;手机需要电力供给维持运行;手机也会生病,甚至死亡。

生命的重要特点是可以繁殖,这在机器与机器之间的关系上有所体现。你可能将自己的手机型号推荐给朋友们,如果有人跟着买了这一款,对于手机这个“种群”来说,相当于进行了繁衍。还有很多机器是按照“有性繁殖”模式发展的。比如,新软件的诞生并不是从零开始写代码,而是从以前软件中参考借鉴。不同的代码互相结合,就像动物繁殖中的DNA交换一样。

如果把机器整体看作一类生命形式,那它们已经发展得十分繁荣了。有些机器可以类比为单细胞生物,比如石英表;有的机器则是体型庞大的多细胞生物,比如超级计算机。它们共同组成了机器生命王国。

二、人与机器是如何协同进化

人与机器的协同进化体现在“机器本身的进化”以及“人与机器相互促进”这两个方面。

作为协同进化重要一环,机器本身正在快速进化,其关键在于反馈机制。近年来人工智能领域取得重大突破,是因为神经网络等算法中引入了反馈机制。

机器要想实现更高层次的智能,还要学会与人类交互。所谓“交互”,是双方互动的过程,是一种更高级别的反馈。比如,在训练飞机自动驾驶系统中,可以让人类飞行员调整对系统下放控制权的程度。自动驾驶系统的目标是让放权值尽可能的大。为此,系统要不断地优化参数,让自身尽可能持续控制飞机,从而改善训练结果。

机器在进化的同时,它们也在与人类形成共生关系,并完成协同进化。

人类与机器的“共生关系”,如同奶牛和微生物。如果失去了微生物,奶牛就会死亡。同样,如果全世界机器突然消失了,人类也会面临灭顶之灾。在共生关系的基础上,人与机器相互促进。我们将自己的信息交给算法,让人工智能提升对我们自己的了解;同时,我们自身能更快速找到感兴趣的内容。

三、人与机器协同进化所带来的问题与应对之策

人与机器的协同进化会很多问题,比如著作权归属、责任划分以及隐私保护等。

当机器帮助人类从事脑力劳动,就可能会出现著作权的问题。使用AI生成内容的技术在快速发展,那么这些产生出来的内容,该属于谁呢?是属于算法的开发者,还是利用算法画图的艺术家,亦或者是提供训练数据的人?当前的法律还没法对这一问题给出解答。

在涉及到生命安全等更严肃的领域,会存在机器与人如何划分责任的问题。如果使用自动驾驶的车辆造成了伤亡事故,那么该是谁来承担责罚?不同智慧级别的自动驾驶汽车,将要承担不同的责任。但是,当机器的运行方式复杂起来之后,我们不容易进行对责任进行明确划分。

人类与机器的密切相处中,“隐私”也是备受关注的话题。世界多国出台了隐私保护法,来限制互联网公司随意收集用户数据。但是,这些保护法的效果并不理想。从协同进化的角度看,即便用户明知个人数据会被滥用,但他们也愿意用隐私来换取能高效运行的程序。

要为这些问题寻找解决方案,我们既要理解机器本身,也要理解其背后的社会与文化因素。

为了应对越来越智能的机器,需要理解它们的运行规则。比如,美国国防部专门启动了名为“可解释人工智能”的项目。遗憾的是,目前我们对复杂算法的理解是极其有限的。很多学者会建议,在没能打开AI的“黑箱”之前,应该尽量减缓AI的进化速度。

除了理解技术本身,我们还应该去了解技术背后的社会与文化内涵,这样才能帮我们构建起与机器和谐共存的规则与规范。比如,现在对年轻人进行教育,不仅应该只教他们如何写程序代码,还应该向他们介绍编程语言发展中所诞生的开源协作精神。此外,可以用年轻人常用的微信、微博这些工具为例,向他们说明隐私的概念,从而提升他们对相关问题的认知。

对于“人类会不会被机器所取代”的问题,作者认为不必杞人忧天。从协同进化的角度来看,并不是只有最聪明的物种才能生存。人与机器,这两种不同的生命形式是可以和谐共处的。

    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多