ChatGPT与人工智能时代： 突破、风险与治理

来源：数字经济与社会

作者：王俊秀

摘要：本文介绍了自然语言处理技术的人工智能应用程序ChatGPT在AIGC（人工智能生成内容）领域的突破性进展，以及这种进步的重要意义。通过回溯历次工业革命对社会的影响，提出以下观点：人工智能发展将带来新的工业革命，人工智能社会已经成为趋势；人类的历史就是不断突破自身局限的历史，人工智能正带来一次新的工业革命，前两次工业革命人类扩展了肢体的机能，从第三次工业革命开始扩展的是大脑和神经系统的机能，进入对自身局限挑战的最高阶段，人工智能将推动大脑和其他身体机能整合式扩展，形成智能社会。本文还分析了ChatGPT可能带来的就业问题和社会分化和不平等，分析了人工智能技术的风险，如隐私和数据安全，算法黑箱可能带来偏见和歧视，人工智能依赖等问题。最后，本文介绍了国外研究者关于人工智能社会治理的思想，提出七个方面的社会治理基本思路。

一、ChatGPT的AIGC技术代表着人工智能的历史性突破

       

（一）横空出世的ChatGPT

仿佛一夜之间人们都知道了ChatGPT，你会听到人们在各种场合谈论这个能对话的机器人。这个“崭新”的英文词爆炸式地出现在各类媒体上，特别是对热点问题特别敏感的自媒体上。搜索百度指数发现，国内2023年1月底以ChatGPT为关键词的搜索数量开始大幅增加，到2023年2月8日达到了峰值；媒体报道的增加则出现在ChatGPT搜索量激增的一周后，到2月27日达到了高峰。

除了报道ChatGPT的突破性进展外，媒体也开始讨论人工智能将对人们的生活带来怎样的改变。产业界以超出当初元宇宙出现时的热情关注AIGC为代表的人工智能。这段时间，许多人通过各种途径对ChatGPT进行测试、考验、刁难和戏耍，但大家普遍惊叹ChatGPT的反应和对话的流畅，人们似乎有了共同的判断，人工智能时代真的来了。

（二）AIGC技术的突破

那么，这个吸引了万千眼球的ChatGPT到底是什么？以下这段文字是我让ChatGPT做的对ChatGPT的描述，也就是这个机器人的“自我”介绍，尽管它其实没有真正意义上的自我意识。

ChatGPT是一种基于自然语言处理技术的人工智能应用程序，它基于深度学习技术，使用预训练的语言模型生成人类类似的对话文本。ChatGPT通常用于智能客服、智能问答、对话系统等场景中，为用户提供高效、自然的对话体验。ChatGPT的关键技术是使用大规模语料库进行自监督学习，从而生成逼真的对话文本，使得用户可以像与人类一样自然地进行对话。ChatGPT在自然语言处理和人工智能领域具有重要的研究和应用价值。

ChatGPT的“自我介绍”，或者是“自我定义”还是非常准确的。ChatGPT是美国人工智能实验室OpenAI推出的一种人工智能技术驱动的自然语言处理工具，使用GPT（Generative Pre-training Transformer）神经网络架构，这个GPT-3.5架构是一种用于处理序列数据的模型，不仅拥有语言理解能力，可以理解用各种语言提出的问题，还具备文本生成能力。由于训练它的语料库数量惊人，它几乎无所不知，它能准确理解提问者上下文的意思，进行流畅、熟练的交流，聊天过程接近真人互动。ChatGPT的本领不单是聊天，还能写邮件、写脚本、写文案、写代码，以及各种语言的翻译工作。

2022年11月30日OpenAI公司发布了ChatGPT的超级AI对话模型，5天后注册用户数就超过100万，两个月后的2023年2月1日，ChatGPT月活跃用户破1亿人，之前最快的速度是抖音英文应用TikTok保持的，9个月达到1亿用户。

ChatGPT的爆火并非偶然，OpenAI是一家成立于2015年的公司，这家公司创立之初就是为了抗衡谷歌的人工智能公司DeepMind。2019年，OpenAI与美国微软公司达成合作关系，微软向OpenAI投资10亿美元。如今微软已经在其搜索引擎必应中内置了ChatGPT，并将整合到它的Office办公软件应用中。ChatGPT 成为目前AIGC（人工智能生成内容，Artificial Intelligence Generated Content）的领跑者，作为AIGC应用的人工智能技术率先宣告人类进入人工智能时代。ChatGPT的同行者众多。2023年2月7日，谷歌宣布推出一款名为Bard的实验性对话AI服务。2021 年 5 月，Google 推出了大语言模型 LaMDA，2022 年初LaMDA 模型使用多达 137B 个参数训练，展示出接近人类水平的对话质量。脸书（Facebook）母公司Meta 也加入到人工智能竞赛之中。Meta公司于2023年2月下旬发布了新的开源 AI 语言生成大模型，名为LLaMA（Large Language Model Meta AI）。Meta宣称，尽管LLaMA参数规模仅为竞争对手ChatGPT的“十分之一”，但性能却优于OpenAI的GPT-3模型，提供70亿、130亿、330亿和650亿四种参数规模的LLaMA模型。百度公司的ChatGPT 技术，文心一言已经在2023年3月发布，尽管人们认为在许多方面其与ChatGPT还有不小的差距，但国内许多企业已经开始基于这一模型开发相关的人工智能应用。ChatGPT发布后，各大互联网巨头纷纷推出各种人工智能模型和应用，几乎每天都可以听到人工智能新进展的消息。2023年3月2日，OpenAI 宣布允许第三方开发者通过 API 将 ChatGPT 集成到他们的应用程序和服务中。这意味着那些没有财力基础的小型企业和个人开发者都可以使用ChatGPT这样先进的模型，这预示着人工智能内容生成的技术将在国内外迅速崛起并得到普及，人工智能内容生成将广泛进入人们的日常生活。

本文初稿完成没几天，OpenAI公司发布了ChatGPT-4，让无数人震惊的ChatGPT属于ChatGPT-3.5，它还只是人工智能生成文本类内容的一种工具。短短的时间内，ChatGPT-4可以接受文本、图像、音频等多种输入，并生成相应的输出，不仅可以处理更复杂和丰富的信息，也可以提供更多样化和有用的服务。ChatGPT可以根据图片生成字幕、描述、故事等，也可以根据文本生成图片、音频等。据OpenAI称，GPT-4在各种专业和学术领域的基准测试中表现出“人类水平”的性能。例如，在模拟律师资格考试中，它得分位于前10%；在医学诊断方面，它与经验丰富的医生相当；在创意写作方面，它可以生成引人入胜的故事、诗歌和歌词。同时，ChatGPT-4在美国各类考试中也取得了非常优异的成绩，在各种专业和学术的考试中都表现出接近人类的智能水平。比如，在美国律师执照统考中，ChatGPT-3.5排在后10%，ChatGPT-4可以达到前10%的水平分位；在生物奥林匹克竞赛中，ChatGPT-4以99%的水平分位获得金牌，而GPT-3.5只有31%。

其实，这些年，AIGC的应用已经全面开展，分别在文本生成、音频生成、图像生成和视频生成四大模态全面应用。文本生成方面，AI应用于新闻报道，AI写诗、写小说、写文案、写代码都已经不是新鲜事。AI语音播报、语音合成，听书功能已经普及，听到的是合成人声的朗读，此外还可以生成歌曲，AI按照人的要求完成作词和谱曲。AI编辑修图早已屡见不鲜，AI绘画也开始出现，可以根据文字描述生成图像，也可以借助已有图像生成新的图像，可以根据要求改变作画风格。更进一步可以把图像变成视频，已经出现了完全用AI技术来完成人物纪录片，也出现了AI合成的主播来播报新闻。

（三）人工智能质的飞跃

作为文本生成的ChatGPT已经让人们看到了人工智能的质的飞跃，许多人把ChatGPT的出现看作是步入人工智能时代的拐点，人们已经看到了人工智能生成内容的更为广泛的应用就在眼前。从技术上来说，ChatGPT代表着一种新的技术时代的到来，20世纪的90年代，伴随着万维网的诞生和发展，互联网进入Web1.0时代，从内容生成上这个阶段属于PGC（Professional-Generated Content，专业生产），互联网的内容生成和发布是由专家完成的。21世纪初，随着众多社交媒体的出现，互联网逐渐进入Web2.0时代，也就是平台互联网，这个时期在内容生成上发生了巨大的变化，进入到UGC（User-Generated Content），也就是互联网的用户既是内容的消费者也是内容的创作者，这就使得互联网的内容生产出现了井喷式的增长。ChatGPT代表着网络进入了一个新的时代，Web3.0时代，这个阶段的内容生成就是AIGC阶段，网络内容的产生将由人工智能来完成，智能创作的时代已经来到了。

表1　从PGC、UGC到AIGC的发展历程和特点

引自杜雨、张孜铭：《AIGC：智能创作时代》，第4页。

以ChatGPT为代表的AIGC技术的另一个突破是实现了自然语言与人工智能的融合。以往与人工智能的沟通是依靠专业人士使用计算机语言来完成的，这对多数人来说都是一个鸿沟，而ChatGPT在自然语言的理解能力上的“历史性跨越”，为每一个人都架起了通向人工智能的桥梁，这必然带来人工智能应用的巨大变化。ChatGPT之前人们已经预料到人工智能巨大的可能性，但ChatGPT的问世使得这一可能性成为现实，而且这个时间表大大提前了。ChatGPT标志着AIGC形成Transform为架构的大型语言模型（Large Language Model，简称LLM）机器学习系统已经具有很强的学习能力。

毫无疑问，ChatGPT会快速迭代升级，也会有超越它的更高级的大型语言模型。随着人工智能学习能力的不断提高，人工智能的应用领域会越来越广，越来越深入。虽然人们正在讨论ChatGPT，但我们更应该关注ChatGPT带来的历史性变革，也就是人类已经进入人工智能社会，人工智能社会将会如何发展？人工智能社会应该如何治理？因此，本文在简要介绍ChatGPT后重点讨论的是人工智能社会的趋势、风险和治理。

二、ChatGPT预示了人工智能的未来

       

（一）人工智能正带来一次新的工业革命

回顾人类文明演进和技术革命的历史，每一次重要的变革都有一定的因素推动，农业革命使人类从狩猎采集社会进入到农业社会，推动的力量是工具的使用和改进，从新石器时代、铜器时代到铁器时代，人类经历了三次农业革命，在这个漫长的过程，农业文明得以形成和发展。自18世纪60年代开始发生了多次较大的工业革命（ 也称为“科学革命”) 。第一次工业革命以蒸汽机的发明为标志，主要特征是“机械化”，人类社会开始逐步从手工劳动转向机械生产，这一次变革也称为“蒸汽技术革命”，推动人类社会从农耕文明向工业文明过渡。第二次工业革命是“电力技术革命”，发生在19世纪下半叶到 20 世纪上半叶，以电的发明为标志。这一时期的主要特征是“电气化”，石油成为新能源，电力、电子、化学、汽车、航空等一大批技术密集型产业兴起，科学技术的进步使得机械化时代转向电气化时代。第三次工业革命是从1960年代以后半导体、计算机和互联网，是以计算机和通信技术推动的，生产更加自动和高效，社会经济从工业生产为主向服务业为主升级，第三次工业革命也称为信息技术革命。本世纪以来，随着大数据和人工智能技术的进步，人们在讨论第四次工业革命正在到来，这次工业革命将是智能技术革命，取决于物联网、深度学习、大数据、通信速度和计算机算力等方面的进步。以ChatGPT为代表的大模型、自然语言、更高的算力支持的人工智能技术的进步，意味着人工智能将迎来新的爆发式发展阶段，进入到第四次工业革命时期，大数据、互联网、人工智能、元宇宙、区块链、量子计算机等的结合将带来产业重组，依照以往几次技术革命的经验，新兴的产业必然会带来新的经济社会发展模式，也会带来人们生产方式和生活方式的巨大改变。

（二）人工智能发展是人类对自身局限挑战的最高阶段

一定意义上，人类发展的历史就是人不断突破自身局限的历史，从更长的人类进化史角度看，人类经历了三次最重要的革命，除了大约12000年前的“农业革命”（Agriculture Revolution）和前面提到的“科学革命”（Scientific Revolution）外，大约7万年前的认知革命（Cognitive Revolution），智人（Homo Sapiens）开始创造出早期的“文化”，开启了人类的历史，因思考带来脑容量的增大，使得与其他许多动物相比身体并无明显优势的人类可以主宰整个世界。在人类进化的过程中，人类不断努力突破自身身体局限，使用生产工具扩展手臂的局限，使用制造的武器增强自身防卫和进攻能力，学会驯化动物、骑马方式等借助蓄力弥补身体的力量。到了工业革命时期，蒸汽机和机械的发明使得人的力量得到无限的延伸，汽车、火车、飞机、轮船等交通工具，人在陆地、空中和海洋中的快速移动能力不断超越，甚至进入了太空、登上了月球，超越了古人的想象。古人幻想能有千里眼顺风耳，从望远镜、天文望远镜、射电天文望远镜，再到遍布世界的各种摄像头，从卫星俯瞰地球，千里眼的幻想早已经实现，电报、电话、无线电话的发明让顺风耳也成为现实，而且显微镜、各种不可见光、各种频段声波技术的应用使得原属于身体机能的听力和视力都得到无限地扩展。

关于这一点，弗洛伊德指出：“每一种工具的使用都使得人类改善了它的运动器官或感觉器官，或者说消除了对这些器官的限制。运动力具有巨大的力量供人使用，就如同人们可以随心所欲地使用肌肉一样。有了船和飞机，水和空气就不能阻碍人的运动；有了眼镜，人纠正了眼球晶体的缺陷；有了望远镜，人看到了很远的地方；有了显微镜，人克服了视网膜结构造成的视力限制。在照相机中，人创造了一种可以保留转眼即逝的视觉印象的仪器，就像唱片可以保留转瞬即逝的听觉印象一样。这两者从本质上说都是人类所具有的记忆能力的物化。借助电话就可以听到远方人的说话，这在童话故事中也被认为是不可能的。文字起源于不在场的人的声音，住房是母亲子宫的代替物。子宫是第一个住所，人类十有八九还留恋它，因为那里安全舒畅。”

阿诺德·盖伦曾经使用“器官代替”和“器官强化”两个概念来说明技术的发展。在使用了代替技术完成了超越个体器官潜力的事情后，人们发现了能够扩大身体的工作能力的强化技术，人们也逐渐发现了减轻器官负担的省力技术。技术的进一步发展经历了从器官代替到对有机物的代替，比如，畜力代替人力，机器代替了畜力。哈贝马斯曾经引述阿尔诺特·盖伦（Arnold Gehlen）的观点来说明人的理性化与科学技术之间的关系，“总之，技术的发展同解释模式是相应的，似乎人类把人的机体最初具有的目的理性活动的功能范围的基本组成部分一个接一个地反映在技术手段的层面上，并且使自身从这些相应的功能中解脱出来。首先是人的活动器官（手和脚）得到加强和被代替，然后是（人体的）能量产生，再后是人的感官（眼睛、耳朵和皮肤）功能，最后是人的指挥中心（大脑）功能得到加强和被代替。”他讲到，“如果人们同意盖伦的观点，认为技术发展的内在逻辑就在于目的理性活动的功能范围逐步替代人的机体，并且转移到机器上，那么，技术统治的愿望就可以被理解为这种发展的最后阶段了。只要人是创造者，那么，它不仅能够第一次完全把自身客体化和同他的产品中表现出来的独立活动相对立；人作为被创造者，如果能够把目的理性活动的结构反映在社会系统的层面上，那么人也能够同他的技术设备结为一体。”

人类坚持不懈地进行着把客体主体化的努力，人类的不断强大正是因为既可以把自身客体化，也可以把客体主体化，这样人就成为加强了的人，机能扩展的人。在麦克卢汉看来，任何发明和技术都是人体的延伸。麦克卢汉认为，在机械时代人类的身体在空间范围延伸，到了电力时代人类的中枢神经系统得到延伸，而且他认为人类正在逼近人类延伸的最后阶段，在技术上模拟意识，“借助于置身在我们外延了的中枢神经系统之中，借助于电子媒介，我们创造了一种动力，过去的一切技术虽然只不过是我们手、足、牙齿和体温调控制系统的延伸——他们全都是我们人体的延伸（包括城市），可是他们都会转换成信息系统。”

（三）人工智能将推动大脑和其他身体机能整合式扩展

不难发现，第一次工业革命和第二次工业革命扩展的是身体除大脑以外的机能，而第三次工业革命和第四次工业革命扩展的是大脑和神经系统的机能。麦克卢汉虽然看到了人类对于中枢神经系统的延伸，但他并未预料到人的大脑机能会得到如此的延伸。大脑机能扩展的难度应该是最大的，但从感知、记忆到思维，大脑的机能被不断扩展。未来人工智能将继续推动机体的扩展，但将是在脑力和体力功能整合基础上的发展。高崇对人工智能在体力和脑力上的延伸进行了分类，人工智能分别在脑力上扩展人的神经网络的机能，在大脑之外的身体机能与机械结合形成各种形态的“机器人”，在机能扩展上分别朝向替代人的机能和增强人的机能两个方向发展，代替人的方向上人的控制越来越少，增强人的方向还是对人的感知觉、思维和运动机能的补充，这两种分类交叉后形成四种不同的应用类型，如ChatGPT在神经网络和智能化类别，体力和智能化的结合就形成自动驾驶汽车、人形机器人，感知能力的辅助就包括VR、AR和可穿戴设备。

目前的ChatGPT只是图1坐标中的一个点，但是ChatGPT对于人机交互的突破性的应用将会增加人工智能在各个方向上的速度，增强各个方向上扩展的程度。目前ChatGPT还是一个弱人工智能，但是随着人工智能在各个方向和领域的扩展，人的身体机能的扩展将渗透到各种产业、产品、生活空间和整个社会，通用人工智能的水平将会不断提高，形成真正的智能社会，这是一个必然趋势，我们必须思考和研究人工智能社会的典型问题，研究人工智能社会的治理问题。

图1  人工智能推动人的机能扩展的方向和类型

引自高崇：《人工智能社会学》，第3页。

三、ChatGPT对生活的改变和人工智能对社会的冲击

       

人工智能大发展是一个必然趋势，就像历次工业革命一样，这次新的工业革命一样会带来生产力的大幅提高，但是，每次工业革命都会引发人们新的恐慌和担忧。人们一方面为ChatGPT这个聪明的帮手出现而惊喜，一方面也会关注ChatGPT带来怎样的风险和挑战。人工智能早已在不知不觉中进入人们的生活，人们享受着人工智能带来的种种便利，也感受到人工智能带来的威胁。ChatGPT惊人的表现让人们觉得以往低估了人工智能带来产业重构和社会变革的步伐，会重新思考人工智能会给人类带来哪些风险？将会对产业和社会造成怎样的冲击？自然也会有人再一次提出机器人会不会替代人或控制人类的问题。这是每一次人工智能进步都会引出的话题，无论是AlphaGo击败围棋世界冠军，还是波士顿人形机器人的进步，都一次次引发关于人工智能未来发展方向的担忧。

（一）ChatGPT的不利的影响

ChatGPT会让哪些人失业？文案策划、程序员、设计师、教师？ChatGPT可以写作业、写论文，版权如何保护？就连美国著名语言学家、哲学家乔姆斯基都认为ChatGPT是一种高科技的剽窃，学生会利用它逃避学习。关于ChatGPT的不利影响，ChatGPT总结了这样几个方面：

1.就业机会减少：

ChatGPT等人工智能技术的应用可能会导致某些传统的工作岗位被自动化和机械化，从而可能减少就业机会。

2.隐私和数据安全问题：

ChatGPT等人工智能技术需要获取大量的数据来训练和提高模型的性能，这些数据包含个人隐私信息，如果泄露或被不当使用，可能会给个人和社会带来不良后果。

3.数据偏见和歧视：

由于训练数据的不全面和偏差，ChatGPT等人工智能技术可能会产生偏见和歧视，对某些社群或个体造成不公平待遇。

4.沉迷和依赖问题：

ChatGPT等人工智能技术的便捷和普及可能会导致人们对其产生过度依赖和沉迷，影响生活和工作的平衡和自主性。如果人们过度依赖人工智能技术，可能会导致他们失去自主性和判断能力，这可能会对个人和社会产生不利影响。

5.社会分化：

可能会加剧社会分化，因为只有少数人拥有开发和使用AI技术所需的技能和资源。这些人可能会比其他人更容易获得高薪工作和更好的生活条件，这可能会导致社会的不平等和分化。

应该说ChatGPT对于不利影响的总结还是很客观的，但ChatGPT对于这些问题的表述还远不够深入。目前人们热衷于讨论ChatGPT会让哪些人失业，而真正应该关注的问题是ChatGPT的预示着人工智能怎样的趋势，在不久的将来ChatGPT引领下的、更先进的人工智能会带来哪些社会问题？会对社会产生怎样的冲击？

（二）人工智能带来就业困境和新的社会不平等

前文之所以回溯几次工业革命，一方面是希望说明技术进步的大趋势不可阻挡，另一方面也是要回顾不同时期的产业革命带来的社会进步和社会问题。因自动化和机械化而造成就业机会减少并不新鲜，已经发生的三次工业革命每次都会使得一些工作岗位、新的职业减少或消失，但也会产生另一些新的工作岗位、新的职业。“过去的几次经济转型并没有导致永久性失业。在第一次工革命期间，自动化和全球化使农业领域的就业岗位减少，但在业和服务业领域创造了新的就业机会。同样，从1973年开始的服务业转型导致工厂的工作机会减少，但服务业领域出现了新的就业岗位”。人工智能技术可能也会催生一些新的职业和岗位，但与以往不同的是，人工智能带来前所未有的高效率，这会使得工作岗位数量减少，同时人工智能越来越提高替代人工的能力，会使得更多的职业类型消失。

前两次工业革命中不断提高的机械化、自动化、电气化水平使得体力劳动的岗位大量消失，信息技术革命使得服务业从业人员的比例增加，随着产业比例的变化，劳动力经历了从农业向工业的转移，再从工业向服务业的转移过程。从劳动性质上看，脑力劳动者，也就是知识型从业者的比例增加。这也就是处于社会学家阿兰·图海纳所言的“后工业社会”，工厂工作岗位减少，办公室工作岗位增加。这个劳动力转移的过程使得全社会形成了争取更高学历、学习专业技能的职业规划模式，但人工智能带来的这次技术革命将突出体现在脑力劳动者的岗位被挤占和取代的现象。一些被挤占或取代的岗位或职业不再能够转移，社会的思维定势不太接受从脑力劳动向体力劳动转移，而高时间成本和高经济成本获得的对应高学历、高专业的职业转向其他专业岗位和职业的难度很高，就会出现人工智能引发的职业流动困境。按照供需关系来分析，教育和科技之间的关系是这样的，技术变化决定了对特定技能的需求，如果供不应求，“技能溢价”就会上升，如果供过于求，“技能溢价”就会下降。不断下降的“技能溢价”使得教育的回报降低，表现为新的不公平。人工智能会带来何种程度和广度的教育回报下降，这是人们担心的问题，所以人们担心ChatGPT带来的失业，人们会陷入未来职业选择和规划的焦虑，生怕“入错行”，担心自己辛辛苦苦奋斗的职位一夜之间被机器人取代了。

早期的工业革命确实带来了社会的混乱，1811年英国纺织工人为了抗议工作岗位被操作机器的工资更低的童工取代而砸碎了工厂的织布机，并引发一场运动。农民从乡村迁移到拥挤的城市，传统的社会规则被打破，工业化、城市化和移民潮带来了大量的社会矛盾和社会问题，古典社会学家涂尔干称之为社会的“失范”（anomie），社会学也正是在思考和研究这场社会变革下诞生的。虽然，之后的工业革命对社会秩序的冲击没有这样强烈，但是社会的不平等在不断加剧，成为一种危险且不断增长的不平等。“数字革命”带来数字经济的繁荣，也伴随着“数字鸿沟”，人工智能时代也会出现“人工智能鸿沟”。人工智能会加剧社会分化，掌握人工智能技术的人和没有掌握人工智能技术的人，具有开发人工智能技术能力的人之间的不平等会加大。

人工智能的竞争可能加深社会分化和社会不平等，COVID-19使得世界各国出现了空间上相互隔离，出现了去全球化的趋势，大国之间科技竞争和科技封锁显性化，作为尖端科技的人工智能体现一个国家软硬件的综合实力，是竞争的焦点。像ChatGPT这样强大的人工智能公司对于资本、技术的要求极高，普通企业没有能力进入。美国这样的科技强国，拥有GAFA（谷歌、亚马逊、脸书、苹果英文首字母缩略）等许多巨型AI企业，在人工智能领域容易形成“数字垄断”，滥用市场支配力，加剧不同国家、地区之间的经济不平等。即使国内也有阿里巴巴、腾讯、百度这样的巨型AI企业在人工智能技术上进行激烈竞争，“数字垄断”也可能发生，通过市场支配力获取高额利润，同样会加剧社会不平等。有经济学家指出，从经济全球化带来生产力增长中受益的仅仅是一小部分高技能人才和资本回报率。数量稀缺的高技能人才正日益为特殊阶层带来利益，尤其是资本所有者和控制者，大多数人群被排除在人工智能所产生的经济利益和财富之外。

虽然技术进步会带来社会问题，但是从整个发展历程看，人类技术进步带来的是经济更加繁荣、人们的生活条件更加改善，更多的人脱离了繁重艰苦的工作，技术进步带来的是人类的解放。当前，中国快速进入老龄社会，同时出现了和发达国家一样的低生育意愿，这会带来劳动力短缺问题，人工智能的发展似乎是解决这一问题的唯一途径。随着像ChatGPT这样自然语言处理技术的快速发展，普通人使用人工智能技术的门槛会降低，人工智能的鸿沟也许没有当下数字鸿沟那么具有阻隔性。

（三）人工智能技术的风险

上面讨论的人工智能带来的就业问题其实是技术进步带来的普遍性问题，不同的是，在人工智能的技术革命下这一问题出现了新的特点。而真正人工智能的风险是作为技术进步本身带来的风险。在上文ChatGPT列出的五个不利影响中，中间三个都属于这种风险，其他两个则属于技术进步带来的普遍性问题。

隐私和数据安全是伴随着信息科技和互联网发展而产生的，个人隐私信息泄露和不当使用成为一个日益突出的社会问题。ChatGPT这样的大模型训练过程要获取大量的数据，使用过程调用的信息量无比巨大，个人隐私信息泄露的风险更大，隐私保护的问题更加突出。人工智能会不断扩展人的身体和大脑的机能，大量如可穿戴设备这样的人工智能设备用于人们的日常生活，人们通过ChatGPT这样的人工智能助手获取信息、得到帮助，辅助思考，这样人的身体活动轨迹、人的身体生理信息、人的思想动态、人的工作内容等等个人信息将会对人工智能开放，人的隐私也就袒露给人工智能。这与以往互联网使用中个人隐私信息泄露完全不同，人工智能具有的综合分析能力，可以把原本分散的关联信息进行整合，获得个人全方位的信息，人工智能可以了解的个人信息比自己还多。那些原本不属于隐私的信息，或者因隐私程度不高而个人没有保护的信息很容易被人工智能获取，经过人工智能整合处理这样合法获取的、原则上不属于隐私的信息已经实质上让个体成为“全息裸体”，这样的信息是可能对个体构成最大威胁的信息，这些信息被滥用后其对个人的消极影响是极大的，这样的信息被滥用可以起到对个体的控制作用，这是监控社会的极端形式。

2015年弗兰克·帕斯奎尔（Frank Pasquale）出版了一本著作《黑箱社会》（The Black Box Society），书中表达了信息处理过程的不透明，民众对整个过程的不知情，他指出“虽然我们可以获得黑箱的输入和输出信息，却无法弄清输入数据如何变为输出数据。我们每天都要面对这样的问题：公司和政府部门越来越渗透性地记录着我们的生活，我们却不知道这些信息会传播到哪儿，也不知道它们将被用作何种目的，更不知道这些信息的泄露会产生怎样的后果。”现在我们越来越依赖于算法和人工智能技术，这些技术开始影响人们的生活和决策，但其背后的决策过程和算法逻辑却常常是不透明的。人们一直担心人工智能的黑箱化，担心这种看不见的风险，担心人工智能会不会失去控制。

这种对人工智能威胁的担心一方面是出于隐私保护的焦虑，另一方面是担心是数据偏见和歧视。数字黑箱可是造成数据偏见的原因，数据从哪里来、如何收集的、输出的数据是如何加工的，这些都是不透明的。如果人工智能所依赖的数据本身存在偏见，比如带有种族主义或性别歧视的语言，那么这种“偏见”会影响其工作结果。在一项研究中，人工智能筛选简历，会更倾向于欧裔美国人，而不是非裔美国人，在另一项研究中，人工智能将男性的名字与数学和科学词汇联系起来，将女性的名字与艺术概念联系在一起。应该说偏见是一种社会性心理，人工智能本质上是无偏见的，但人工智能在训练中学会了“态度”，具有了某种“价值观”，这就可能会产生偏见，具有偏见的人工智能将会出现“系统性的偏见”，构成了一种新的歧视。有时候这种偏见来自人工智能采集数据的偏颇，波士顿市从市民智能手机中获取GPS数据，用于对市内的道路状况调查，最后依据这个调查进行的道路修补施工集中在高收入，因为高收入人群与低收入人群智能手机使用的比例不同，使得低收入人群被过少代表了。

更麻烦的是，人们有一种认知倾向，会过于相信电脑、人工智能自动做出的判断，并且囫囵吞枣地全盘接受这些判断，这就是自动化偏见。即便我们对人工智能的判断质疑，但我们无法具体地说明这个判断在哪里出现了偏差，这种偏差所形成了“无主观”的歧视。如果人工智能用于产生对个体特征刻画的数字人格（digital persona），某些不切实际的特征不仅形成了歧视，还形成了数字污名（datastigma）。

随着人工智能拟人化水平和人机交互便利性的提高，特别是AI能够取悦人类能力的提高，以及与元宇宙等虚拟技术的结合，不可避免地会出现人对机器人的依赖。媒介依赖理论认为，一个于通过使用媒介来满足需求，媒介在这个人生活中所扮演的角色就越重要，因这个人的影响力就越大。AI可以看作是一种新媒介，人们在与其高度交流互动中，对其产生依赖是必然的。这种依赖一方面使AI逐渐成为人们日常生活和工作中不可缺少的助手；另一方面，AI化身为机器人会使得人机之间产生情感的依赖。就像网络成瘾、游戏成瘾一样过度地依赖和沉迷是不可取的，是需要干预和治理的。另外一种依赖值得关注：随着人们对ChatGPT这样的AI使用的增加，导致一些人失去自主性、判断能力和学习能力，不愿意思考，不愿意探索，这将带来整个社会创造能力的下降，是不利于社会进步的。

四、人工智能社会的治理

       

ChatGPT展示出的人工智能技术进步，为几年前有人作出的判断“智能时代，未来已来”作了很好的注解。面对来势迅猛的人工智能，人们在欢欣鼓舞中也表达出担忧，多数人的问题是：如何适应人工智能带来的新变化？如何在智能社会中生存而不被淘汰？如何成为智能社会的赢家？理查德·鲍德温指出，大变革为一些人创造了机遇，对另一些人则带来了挑战，白古如此，唯一的区别是是否做好了准备。他给出了应对智能社会的三条法则：第一条是识别出会受人工智能影响的工作；第二，尝试培养这二者无法竞争的技能；第三，要认识到在未来人性是优势而不是劣势，要获得经济成功，拥有一颗善良的心十分重要，就像20世纪拥有一颗聪明的头脑和19世纪拥有一双强有力的手一样重要。应该加强软技能的培养，比如创造性、社会意识、同情心和道德感。这些将是职场必备技能，因为这些是机器人不擅长的技能。就像鲍德温自己所言，这三条法则其实是常识。许多人可能并不满意这样的解惑，他们关心的是人工智能社会的走向，人工智能带来的社会问题如何解决。

人工智能的社会影响及其走向，高崇认为存在两种比较对立的观点：一种是技术乐观主义，认为人工智能技术将会帮助人类社会解决几乎所有问题；另一种是技术悲观主义，认为人工智能技术可能会给人类带来毁灭性后果。他提出两个维度来客观分析人工智能的影响：第一个维度是技术影响的维度，一端是乐观主义，另一端是悲观主义；第二个维度是技术决定论和社会决定论，技术决定论认为技术能主宰社会，社会决定论强调基于某种社会结构的人类选择决定了技术的社会影响。应该从这两个维度辩证分析人工智能的社会影响。

无论是持悲观的立场还是乐观的立场都应该思考人工智能的社会治理问题：乐观者也不意味着放任人工智能无规则发展，任何科技都需要新的规则；悲观者也不意味着放弃和禁止人工智能的发展，这是无法改变的趋势。2023年3月底ChatGPT发布后传出了千名专家呼吁暂停训练比ChatGPT-4更强大的AI系统至少6个月，其目的是共同制定一套人工智能设计和开发的共享安全协议。

人工智能的社会治理是一个开放性的、国际性的问题，必须通过广泛的国际合作来形成共识，确定一些人工智能发展的基本原则，形成一个治理的框架。日本的学者提出人工智能的治理内容，除了要确保使用数据的价值、数据流通价值、学问的自由、人的尊严、促进革新、保护隐私、经济成本等的平衡外，要保证联结性、透明性、可控性、安全性、隐私性、公正性等原则。在此基础上提出了智能社会的8条基本原则：（1）所有人都可以受惠；（2）保障个人的自主性及人的尊严；（3）保证革新性研究开发的持续与公平竞争；（4）坚持可控性和透明性；（5）利益相关方的参与；（6）兼顾虚拟世界与现实社会；（7）通过超越空间的协调合作实现有活力的区域社会；（8）通过分散合作解决全球性问题。可以看出，这样的原则许多其实是人类社会通用的原则，并不单单是人工智能社会治理的原则，是社会发展的基本原则。而且，这些原则需要逐步转化为具体的框架和路线图，进而形成可操作性的细则和法规。总的来说，人工智能的社会治理应该从几个方面入手：

第一，要加强监管和法律框架的制订。政府部门应该尽快建立监管机制，完善法律框架，避免人工智能的无序发展给社会造成负面影响。第二，要鼓励和大力推动技术创新。创新是发展人工智能技术的重要途径，同时也要尊重科学规律，合理规划有序发展，确保人工智能技术的安全性和稳定性。第三，增强技术透明度，建立问责机制。在人工智能算法、训练和数据收集等过程中增强透明度，避免数据被滥用或者误用，避免算法黑箱。建立问责机制，让人工智能的开发者、供应商、应用者等各方承担相应的责任，避免人工智能的无约束发展，把不确定风险降到最低。第四，重视人工智能带来的伦理和个人隐私侵犯问题。在开发和应用人工智能的过程中，应该关注伦理问题和个人信息和隐私的保护问题，也要避免人工智能可能产的算法偏见、公平性、歧视等问题，确保人工智能技术符合公共利益和核心价值观，避免人工智能技术对社会产生的负面影响，增进人们对人工智能的信任。第五，重视人工智能的教育和培训，提高大众的人工智能素养，使人们能够正确认识人工智能，合理使用人工智能，适应人工智能带来的新变化，享受人工智能带来的福利。第六，确保人工智能的发展和应用过程中有各种利益相关者的参与，包括政府、企业、学者、社会组织和公众，以确保人工智能符合各种需求和期望。第七，促进国际合作与共享，学习国际先进技术的同时也要寻求广泛的国际合作，共享科技成果，共同努力，确保人工智能在全球范围内的公平使用和可持续发展。