|
自20世纪80年代虚拟人开始出现，虚拟人涉嫌犯罪事件时有发生。2007年，在网络游戏《第二人生》中，一虚拟女性被另一虚拟人利用一组程序编码控制了她在游戏中角色的身体并实施了“强奸”，比利时警方对此展开调查，但该案最终未能起诉。 近来，随着“元宇宙”概念破圈爆红，虚拟人渐渐从小众范围的“尝鲜”体验走进越来越多人的网络生活。 诸多具有时代特色的新问题随之产生：当“性侵”蔓延到虚拟世界，这种行为是否涉嫌违法犯罪？当虚拟世界和现实世界的边界日益模糊，会延伸出哪些新问题？平台、企业在虚拟世界中需要承担怎样的责任？如何确保行业向上向善？ 清华大学人工智能国际治理研究院副院长梁正认为，随着VR技术的发展，用户已经可以在虚拟世界实现沉浸式体验，拥有身临其境的感官延伸。“该案例表明，虚拟世界和现实世界的规则接轨需尽早提上日程。” 本文转载自微信公众号“瞭望”（ID：OutlookWeekly1981），原文首发于2022年6月26日，标题为《虚实世界能接上轨吗》，原刊于《瞭望》2022年第26期。 前述案例引发的社会争议之一，是虚拟世界中此类行为是否涉嫌违法。公开信息显示，受害者是一名21岁女性，她在游戏中创建了一个女性虚拟人物，由于游戏中虚拟人物的接触能使玩家手中的控制器产生振动，且整个被“侵犯”过程还被其他玩家看到，甚至有虚拟人物在旁观时起哄，该女性玩家表示：“虽然没什么肉体伤害，但心理上仍然很难受。”多位受访专家表示，当前没有专门针对虚拟世界“性侵”行为的立法，但虚拟世界是现实世界的延伸，目前对虚拟世界行为的定罪可遵循现实中的法律规定。北京市中同律师事务所高级合伙人、刑事部主任赵铭介绍，现实中认定强奸罪的法律要件主要有三条：二是行为人必须采取某种足以使妇女不能反抗、不敢反抗或不知反抗的手段，通常表现为暴力、胁迫和其他手段；赵铭称，在该案例中，根据玩家描述，男性玩家违背了妇女意志，这一点可以得到佐证。但与现实世界不同的是，虽然通过设备传感，有一定物理感受，但行为发生在虚拟空间，双方没有发生真实的身体接触。因此，此类行为在目前的法律条件下难以被认定为强奸罪，但或可参照相关法律规定追究其法律责任。专家认为，该行为公然侮辱他人、猥亵他人，涉嫌违反治安管理处罚法，或将面临治安管理处罚。如果认定为情节严重，比如聚众或者在公共场所当众实施猥亵行为或者侮辱妇女，也可能被认定为强制猥亵罪、侮辱罪。就前述案例而言，“性侵”行为发生在虚拟世界的公共场所，有其他虚拟人物围观，符合“情节严重”的标准。专家提醒，此类情况需要注意的一个前提是，被侵犯的一方现实生活中的性别和虚拟人物的性别必须相同，且在一定群体中存在人物对应关系。这就引出一个重要问题，在涉及骚扰、猥亵、性侵等案例中，判断虚拟人物行为是否侵权，首先要明确虚拟世界和现实世界的对应关系。在现有法律框架内，现实中的个体所享有的各种权益很难自动延伸到虚拟世界，在虚拟世界中权利受到侵害时，收集证据的方式、立案标准、判定标准等，目前都较为模糊，也存在一些争议。也有专家认为，虚拟人并不具有现实中的生命，所以虚拟强奸、虚拟猥亵不构成强奸罪、强制猥亵罪，很难用现实世界中的法律规制。中国社会科学院大学互联网法治研究中心执行主任刘晓春称，当下，法律对此类情形尚没有具体规定，存在空白地带，相关的规则共识也尚未形成。但针对新型权利和利益的冲突，未来很可能需要调整相关法律规则。此外，虚实形象的映射关系、虚拟人物权利的维护等都是需要进一步研究的重要课题，值得广泛、深入讨论。虚拟人物被侵犯只是虚拟世界法律风险的表现之一，在虚实互动愈加频繁的当下，更多风险点逐渐暴露。
近日，在最高人民法院公布的具有重大社会影响和典型示范意义的案件中，一起“AI陪伴”软件侵害人格权案备受关注。
该案件中，原告系某公众人物，被告是某款智能手机记账软件的运营方。在未经原告同意的情况下，该软件出现了以原告姓名、肖像为标识的“AI陪伴者”，同时，被告通过算法应用，将该角色开放给众多用户，允许用户上传大量“表情包”，制作图文互动内容对“AI陪伴者”进行“调教”。
北京互联网法院经审理认为，被告未经同意使用原告姓名、肖像，设定涉及原告人格自由和人格尊严的系统功能，构成对原告姓名权、肖像权、一般人格权的侵害，判决被告向原告赔礼道歉、赔偿损失。
最高人民法院介绍，随着后疫情时代互联网产业模式的进一步创新，虚拟现实等新技术不断发展，自然人人格要素被虚拟化呈现的应用日益增多，本案明确了自然人的人格权及于其虚拟形象，同时对算法应用的评价标准进行了有益探索，对人工智能时代加强人格权保护具有重要意义。
在虚拟世界中，与“AI陪伴者”类似的虚拟人物无处不在，例如虚拟分身、虚拟数字人、虚拟员工、虚拟角色等。从本案中我们可以知道，无论哪种虚拟人物，在创建的过程中均要注意与现实自然人的映射关系，否则容易发生侵权行为。
中国政法大学传播法研究中心副主任朱巍介绍，在民法典颁布之前，判定何为侵犯肖像权的标准更多以可被识别的面部特征为参照。而在民法典中，人格权独立成编，这种映射关系的外延进一步拓展。
只要能使社会大众联想到某个特定的自然人，哪怕是人物剪影、抽象的漫画，或者以影像、雕塑、绘画等艺术创作为载体，如果未经同意，都可能成为侵权元素。在这起案件中，“AI陪伴者”的姓名、声音、说话方式、表情包等元素，均被认定为可被识别的肖像标识，因此最终被认定为侵权。
人格权外，因虚拟人产生的民事侵权纠纷及刑事犯罪都在增多。有学者统计，自上世纪80年代虚拟人出现以来，一些国家发生不少与虚拟人相关的犯罪事件。例如，在游戏内殴打虚拟人并掠夺其财物，然后变卖为现实世界中的金钱；再如，女子在网上与一名男子结为“夫妻”，因遭“丈夫”抛弃，该女子用黑客手段入侵“虚拟丈夫”个人电脑，将其“虚拟分身”杀死，涉嫌非法侵入计算机信息系统罪。
北京德和衡（深圳）律师事务所元宇宙科技与法律研究中心主任黄斌表示，虚拟空间的行为很难完全参照现实世界中的罪名对虚拟空间中的行为定罪。但在司法实践中，类似虚拟强奸、虚拟猥亵可能因利用计算机程序控制虚拟人等行为，构成非法侵入计算机信息系统罪、非法获取计算机信息系统数据罪等相关犯罪，也有可能因传播电子淫秽书刊、影片、音像、图片等行为构成传播淫秽物品罪。对于因攻击行为产生的创伤，用户可以对实施攻击行为的虚拟人所对应的现实世界中的自然人主张民事上的精神损害赔偿。
多位受访专家表示，目前以现实世界为中心的法律规则在面对虚拟空间形态时，会受到一定挑战，既有法条在应对虚拟空间的众多问题时存在一定局限性。
为应对种种风险，朱巍建议提早布局“元宇宙”治理规则，在现行法律法规基础上优化、细化，推动虚拟世界和现实世界的规则接轨。
刘晓春说，当现有法律规则无法适用时，我们需要从游戏规则的层面慢慢提炼，通过典型事件形成共识，并通过立法机制逐渐上升到法律规则。有时，可能也要通过司法和行政执法的创新去进行规则梳理。
诸多案例表明，虚拟世界的纷繁复杂对治理能力提出了新的挑战。
刘晓春表示，多数情况下，虚拟世界乱象的出现不是技术的问题，技术本身没有价值取向，关键在于技术如何应用、应用在何种场景。一些网络平台可能打着技术中立的旗号实施一些恶意侵权行为，此时需要准确区分技术提供方和技术使用方不同主体之间的过错和责任。
一般情况下，为防止过度打击产业发展或新商业模式，在网络侵权领域有“避风港原则”，也称“通知+移除”规则。其大意是，在网络服务提供者只提供空间服务，不制作网页内容的前提下，当有人利用网络服务实施侵权行为，受害人可通知网络服务提供者采取删除、屏蔽、断开链接等必要措施，如果网络服务提供者接到通知后未及时采取必要措施，则需要承担连带责任。
此外还有“红旗原则”，它是指如果网络侵权行为显而易见，像红旗一样飘扬，那么即便受害人没有发出通知，网络服务者也需承担责任，不能以不知道发生侵权为由推脱责任。
朱巍表示，此类原则既确保了行业良性发展，也释放了行业活力。
对企业来说，在技术研发的同时，要引导技术向善。只有产品更符合公众的长远利益，才能得到正向回报，达到多赢的局面。
梁正说，以往为了实现商业价值，更注重如何更快形成用户黏性，未来企业应更加着力于技术行为的伦理导向。国外对此探索尝试较早，很多数字企业通过设置伦理委员会以规避相应风险。特别是一些头部企业，在项目开发的全过程引入法律、市场、历史、心理等外部专家，评估项目对特殊人群、对社会、对公司发展等可能产生的影响以及社会的接受、认可程度。
目前，我国一些从事人工智能领域的企业也已开始在产品研发阶段把责任与公平的理念嵌入到开发的标准流程中，特别是在一些相对敏感的领域，比如涉及未成年人、社交互动等，已经形成一些标准化的合规操作，从产品开发、应用、推广各环节进行产品把控。因此，对相对规范的企业来说，风险相对可控。但问题是一些在资金、技术、人才等方面都相对欠缺的企业，仍可能存在盲点和堵点。
显然，不能完全依靠企业自觉，而要设置监管红线，在兼顾效率的同时兼顾公平，注重个体权利的保护，助推行业向上、向善发展。
首先要事前预防，完善监管要求，建立防范机制，监督企业对照相关标准，完善实名规则，提高算法评价标准。
其次是事中处理，畅通投诉通道，监督企业做好全过程留痕，及时保留证据。
最后是事后补救，对多次被举报的企业依法依规处理，对多次涉嫌违法的用户采取批评教育、限制虚拟活动等措施，发挥正向引导作用。
当下，第四次工业革命正在向纵深发展，推动技术与生活深度融合，为人们带来前所未有的数字化体验。互联网原住民的话语权不断提高、消费能力不断变现，“元宇宙”概念应时而生，虚拟人技术作为虚拟世界的重要基础，发展速度肉眼可见。
据统计，2020年和2021年，我国虚拟数字人相关企业新增分别超过3万家和6万家。截至目前，国内虚拟数字人相关企业数超16万家，预计2025年，该数字或将突破40万。
资本市场对此积极乐观。速途元宇宙研究院相关数据显示，仅2022年1月，一月之内，虚拟人领域融资就达近百起，累计融资金额超4亿元。
多位受访专家相信，以虚拟人为代表的技术作为依托，未来现实世界和虚拟世界将进一步深度融合，虚实互动的场景将越来越多、互动方式将越来越频繁，互动效果也将越来越真实。
与此同时，现实世界的一些原有秩序、默认情形和公认原则在被平移的同时也在被颠覆。可预见的是，争论和分歧也会进一步发酵，从而影响虚实之间的互动逻辑。
梁正坦言，自从有人类文化以来，虚拟和现实之间的互动就一直存在，只不过在虚拟现实技术的推动下，这种互动变得更加真实、更加强大、更加频繁。“没必要过分夸大虚拟空间的特殊性，在数字王国里并不等于可以为所欲为。虚拟人物的言行必须遵循与现实世界相同的规则，不能违反公序良俗，不能违背主流价值观。”
在某种意义上，当下出现的很多问题，是新事物在发展过程中必然经历的一个阶段。梁正认为，正因为风险往往很难被提前预见，法律往往不能穷尽所有可能出现的问题，监管在实践中也存在一定的滞后，因此更需强化底线思维。
梁正说，在坚守底线思维的同时，根据新判例的出现，不断用新角度去解释，在此过程中，一些基本的伦理道德准则会慢慢升华，最终形成成文的规则。
赵铭提出建议，可以在虚拟世界设立虚拟法庭，由软件的开发者和运营者通过后台技术设定相应的场景，确立相应的规则和惩罚措施，并能与现实世界匹配，进而对现实中的自然人产生相应约束力，从根本上起到威慑和警示作用。
在纠正乱象的同时，还需正确看待虚拟世界，既不要过分夸大虚拟世界的短期影响，也不要忽略虚拟世界的长期影响。
梁正认为，当下很多人对虚拟世界产生一定程度的认知偏差，体现为“近视效应”——聚焦当下忽视长远。
他解释说，“元宇宙”虚拟世界短期尚属游戏层面，其影响相对有限，但在不可预知的未来，虚实世界之间的医疗互动、文化互动、教育互动等，可能带来意想不到的变化。从业者可积极挖掘虚拟世界在这些领域的潜在价值，同时建立保护机制，为虚拟世界长远发展护航。
|
