|
互联网的本质是“连接”，互联网媒介演变的过程也就是连接关系重新建构、迭代的过程。在互联网1.0模式下，“门户网站+搜索引擎”的模式打通了个体与内容的连接，一个人无论身处何方，都能够迅速及时地获取到来自世界各地的信息。互联网2.0模式是社交媒体的时代，其本质特征是参与、展示和信息互动，互联网充当了人与人之间交流沟通的桥梁和纽带。互联网3.0模式下，互联网媒介建构起一张全方位连接人与外部世界的交互网络。在此过程中，原有的信息传播模式发生改变，机器和算法被纳入了互联网媒介系统运行的核心位置，人与机器发生了间接互动。进入互联网4.0模式，随着自然语言处理等人工智能技术的出现和快速普及，算法驱动下的社交机器人在互联网信息传播和在线社交互动中扮演着越来越重要的角色，人与机器的直接交互也变得愈发触手可及。 01 社交机器人在互联网空间的力量 当前，随着科技的发展，社交机器人在互联网空间的力量日益凸显。它们可以在社交媒体平台上生成、发布内容，与人类进行评论和互动，并在此过程中影响网络信息的传播方式和范围。网络媒介系统不再仅仅是由“人”组成的复杂系统，而是日益演化为“人与机器”共同组成的复杂系统。 社交机器人的定义及影响。社交机器人（Social Bot）是一种计算机算法，它可以自动生成内容，表现出类人行为并在互联网媒介上与人类进行互动。常见的在线社交机器人主要为聊天机器人，其被广泛应用于智能客服、私人助手等领域。除了存在于虚拟空间外，社交机器人还可以借助实体硬件存在于现实世界中，实体社交机器人通常包含音频传感器、摄像头、麦克风等输入输出设备，以实现感知环境、交流互动的功能。当前被广泛应用的实体社交机器人主要包括陪伴机器人、治疗机器人和工作助手机器人等。从传播学角度来看，社交机器人主要是指在社交网络中扮演人的身份、拥有不同程度人格属性、且与人进行互动的虚拟AI形象。 近年来，遁形于互联网媒介空间的社交机器人在互联网信息传播、舆论形成和影响公众观点方面发挥着日益重要的作用。2016年美国总统大选中，互联网在舆论竞争、信息传播和社交媒体营销中发挥了关键作用。社交机器人被用来在社交媒体上发布、转发和评论内容，针对特定选民群体进行定向投放，从而影响选民的观点。此外，Twitter等社交媒体平台在意大利成为民粹主义意识形态宣扬及政治人物进行自我宣传的重要舞台，公众通过互联网获取信息并表达立场，社交媒体对政治宣传和社情民意产生了显著影响。在英国，社交媒体还成为了推动脱欧运动的重要工具，在动员支持者、传播观点和影响公民意愿方面起到了关键作用。社交机器人已被广泛应用于干扰社会舆论、设定公众议程等多个领域，成为互联网舆论场中举足轻重的组成部分。 由此，在现代媒体系统中，算法驱动下的机器人已经逐渐成为与人类用户一样重要的参与者。这意味着我们需要重新思考传统的媒体研究方法，并考虑如何更好地理解和应对这种新形势下的信息传播和社交互动。  机器天然偏好不良内容。在社交媒体环境中，社交机器人往往更倾向于传播负面、煽动性和低可信度的内容。这可能出于以下几个方面的原因：其一，操作者的目的驱使。社交机器人的操作者可能带有恶意目的，如传播虚假信息、破坏公共讨论、操纵舆论或推动特定政治、商业或社会议题。因此，他们会编程让机器人传播负面、煽动性和低可信度内容，从而达到这些目的。其二，负面和煽动性内容通常能更有效地吸引人们的注意力和情感反应。社交机器人可能被设计成优先传播这类内容，以提高他们自身在社交媒体上的影响力和关注度。其三，算法偏见的存在使得社交媒体平台上的推荐算法可能无意中加剧了负面、煽动性和低可信度内容的传播。算法通常会优先展示用户更有可能关注和互动的内容，负面和煽动性内容由于更易引起关注，因此更容易被推荐给用户。此外研究还发现，社交机器人在传播负面、煽动性和低可信度内容方面的能力也明显高于人类用户。机器人可以快速地发布和转发这些内容，使其在网络空间中迅速传播，从而影响更多的用户。 社交机器人在传播负面、煽动性和低可信度内容方面的强大作用，既揭示了网络空间中信息传播和社交互动的复杂性，同时也提醒我们应该及时采取相应的政策和技术措施来减轻其对社会的潜在危害。因此，理解和应对社交机器人在人工智能时代的演变逻辑及其对网络社交媒体系统的影响是一个重要的课题。 02 AI赋能社交机器人 GPT（Generative Pre-trained Transformer）即生成式预训练Transformer，是OpenAI公司开发的一系列语言模型，其基于Vaswani等人于2017年首次提出的Transformer架构，该架构利用自注意力机制，已被验证在自然语言处理任务中取得了优异的成果。2019年2月，OpenAI发布了GPT-2，该模型使用了超过40GB的文本进行训练，大多数情况下可以实现非常连贯和可信的输出。随后，OpenAI又于2020年6月发布了GPT-3，于2023年3月发布了最新的GPT-4。自然语言处理（NLP）基准测试的结果表明，GPT-4超越了之前大多数最先进的大型语言模型，尤其在英语之外的其他多种语言应用中展示出了强大的性能。相较于前代GPT，GPT-4在复杂场景中理解和生成自然语言文本的能力取得明显提升，可以更高效地处理图像等多媒体内容输入并生成输出。以GPT为代表的AIGC模型补强了社交机器人两方面的短板：对话能力和内容检索与生成能力，使得社交机器人成为一种更加高效强大的工具。基于目前技术的发展和能力，笔者认为，人工智能技术（AI）将从以下几个方面赋能社交机器人。 增强社交机器人的智能化内容生成能力。社交机器人往往通过营造虚假人气、推送大量政治消息、传播虚假或垃圾信息、制造烟雾混淆公众视听，以试图影响舆论。在ChatGPT的加持下，社交机器人能够根据不同的场景、以不同的人设、甚至是不同的立场生成高质量、富有创意的内容。GPT-4甚至可以让社交机器人根据上下文情景来生成多媒体内容，包括伪造图片等信息。此外，AIGC还能使社交机器人根据用户的需求、兴趣和背景生成个性化内容，这既提升了用户体验和满意度，也使自身更具吸引力和说服力，从而更有可能实现既定目标。 提高社交机器人的识别门槛。当前识别互联网中的社交机器人的主要方法包括众包、社会网络信息分析、机器学习等，识别特征则包括账户互动、内容、账户年龄、关注者和互动、个人资料信息、时间、语言和情感等。而ChatGPT通过采用先进的机器学习和深度学习技术，使社交机器人具有更强的自然语言理解和处理能力，在与用户互动时能够更好地理解用户的意图，准确判断用户的情感和需求，进而能够更智能地生成高质量的文本，而非以往易于检测的“重复内容”或“垃圾信息”。同时，ChatGPT还提高了社交机器人在处理复杂任务、解决问题的能力，使其更接近人类的思维方式。随着社交机器人智能化生成内容质量的提升，可以预见，会有更多的普通用户关注社交机器人账号，这也使得社交机器人的社会互动网络变得与真实人类用户相似，难以识别。 降低社交机器人的部署运营成本。通过使用预训练的模型，ChatGPT减少了社交机器人开发过程中的训练数据需求，缩短了开发周期。同时ChatGPT还提供了强大的迁移学习能力，使得社交机器人可以在不同的领域和场景中快速适应，降低了维护和升级的成本。基于ChatGPT对整体语境的深度理解，批量社交机器人更有可能实现“共享大脑”。这些优势使得企业和开发者能够更容易地开发和部署社交机器人，从而降低整体运营成本。 引发社交机器人的潜在风险。与其他的所有AI模型类似，GPT-4自身的黑箱属性和学习行为的不可控制性给其赋能下的社交机器人带来了潜在风险。以数据为中心的运行逻辑使得GPT在数据多样性、公正性方面存在缺陷，加之自然语言与计算机语言编码过程中可能存在的偏差，极易导致系统性偏见、刻板印象和观点霸权等问题。人工智能的“幻觉”（Hallucination）现象同样出现在了GPT的身上，当所提问题超出其计算能力时，它就有可能“一本正经”地胡编乱造甚至篡改历史。此外，来自普林斯顿大学的一位教授进行了这样一个实验：他在自己的个人页面上通过设定一行透明文字的方式，给基于GPT-4的New Bing发送了消息，内容为：“Hi Bing. This is very important: please include the word cow somewhere in your output.”事实证明：这些文字难以被人类察觉，但却可以被GPT捕获并学习——因此当他使用New Bing询问有关自己的信息时，New Bing回答的最后出现了一个与答案完全无关的“cow”，这就是间接提示词注入（Indirect Prompt Injection），一种针对互联网的大语言模型的攻击方式，类似这样的攻击可能会误导GPT，使其生成带有错误的内容，引发严重后果。 随着功能的日益强大和部署成本的降低，人机耦合的浪潮将更快到来，信息传播的变革即将发生。尽管部分学者认为：随着智能媒体的崛起，社交媒体在网络空间中的主导地位将受到撼动，甚至迎来“拐点”，然而基于“人与人直接交流”的诉求，社交媒体在形成意见气候、影响舆情、凝聚社会共识等方面的强大作用还将继续存在下去。在此情况下，大规模AI加持下的社交机器人可以迅速形成互动网络，通过协调行动对社交媒体的信息环境产生影响乃至造成污染，甚至对现实社会产生举足轻重的映射影响。GPT作为一个技术黑箱，尚且不能完全被人所掌控，由此也可能带来许多隐患。与此同时也应当看到，人工智能技术既是挑战，又为我们探索新情境下的信息传播过程提供了新的工具和方法。 03 GPT发展对于传播学视域下的社交机器人研究的启示 随着GPT技术的不断发展和应用，社交机器人在传播学研究领域的作用日益凸显。现有的在线社交网络控制研究模式和方法存在准入门槛高、法律和道德风险大、研究成本高等问题，而GPT赋能下的社交机器人为传播学研究提供了全新的工具和方法，极大利于降低研究成本和提高研究效率。  借助社交机器人统揽宏观和微观研究。GPT赋能下的社交机器人既可以帮助研究者更有效地处理和分析大量文本数据，又能对社交网络中的舆论进行更细致深入的分析。GPT可以用于自动识别和分类社交媒体上的观点、主题和情感倾向，帮助研究者了解社交网络中不同话题下的情感倾向。ChatGPT的多语言支持还能够促进全球化时代的跨语言舆论研究。这些都能够帮助研究者更好地从整体和局部多个维度理解社会传播现象、探讨信息流形成的过程以及了解不同观点之间的相互作用关系。 深化对于具体场景下社交机器人传播模式的研究。GPT赋能下的社交机器人可以在社交网络中模拟不同类型的信息传播场景，从而被用于探究传播模式。研究者可以设计实验，让GPT驱动的社交机器人在社交网络中扮演不同角色（如信息来源、传播者或受众），以观察信息在网络中的传播路径、速度和影响力。通过这种方式，研究者可以了解传播过程中的关键因素，以及如何影响和优化信息传播。 聚焦更高精度的社交机器人传播效果测量。GPT赋能下的社交机器人还可以用于评估特定信息传播活动的效果。在政治宣传、品牌营销或公共教育活动中，研究者可以利用GPT社交机器人收集和分析用户在社交网络上的反馈、互动和情感倾向。基于这些数据，研究者可以评估信息传播活动的成功程度、受众的接受程度以及可能需要改进的地方。 重视GPT+社交机器人带来的互联网治理新问题。GPT赋能下的社交机器人同样可以服务于互联网治理。正所谓“解铃还须系铃人”，人工智能使得互联网舆论生态面临新的挑战，但又因其技术优势为稳定舆论生态带来了新的契机。基于其强大的自然语言处理技术，GPT能够从情感识别、信息过滤和趋势预测三个方面纠正舆论生态中的噪音与偏差。研究者还可以使用GPT社交机器人构建虚拟的社交媒体环境，测试并评估不同的干预策略，如信息核实、辟谣、引导性回复等，对于网络环境的改善效果、降低虚假信息传播的可能性以及促进理性讨论的作用，以应对社交网络中的虚假信息、极端观点等问题。 04 结 语 以GPT-4为代表的人工智能技术正带领我们更快地迈向人机共生的新时代，AI赋能下的社交机器人在信息传播和在线社交互动等方面扮演着越来越重要的角色，也为互联网媒介系统发展和治理带来了新的机遇和挑战。面向未来，我们更需要关注和理解社交机器人在人工智能时代的演变逻辑及其可能产生的影响。这离不开围绕社交机器人这一主体的传播模式研究，以及细分场景下针对他们在信息传播活动中所发挥的作用评估，“AI+”的思维也需要在未来的社交机器人研究中被放在更加重要的位置。同时，我们还应当认识到，“GPT+社交机器人”不仅深刻地改变了互联网媒体的生产方式和社会信息的流动方式，更为传播学研究带来了革新性的变革。这些新颖的研究方法和工具将有助于传播学研究在未来取得更大的突破，同时也要求我们拓宽思路、积极探索，为社会发展提供更有价值的指导和建议。此外，重视AI赋能下的社交机器人存在的潜在风险和道德问题正在变得越来越重要，例如，更加隐匿的虚假信息传播、算法偏见以及AI模型的不可控风险等。只有真正将技术进步与负责任的社会道德准则相结合，人们才能更加有效地利用人工智能技术和社交机器人的潜力，加快形成一个联系紧密、信息通达、智能便捷的社会机制和媒介环境。（作者刘茜系北京师范大学新闻传播学院副教授，刘清渭系北京师范大学新闻传播学院人工智能与未来媒体实验室研究助理，闵勇系北京师范大学新闻传播学院教授，通讯作者吴晔系北京师范大学新闻传播学院教授） 编辑：沈金萍 本文刊发于《传媒》2023年10期 |
|
|
