 数据殖民主义与技术主权：巴西对人工智能的反思与实践 各国动态 阿根廷、巴西、厄瓜多尔、哥伦比亚、萨尔瓦多、委内瑞拉 专题聚焦 数据殖民主义与技术主权： 巴西对人工智能的反思与实践 2022年11月，OpenAI推出的ChatGPT模型以其卓越的智能表现引领了新一轮的技术革新，并引发全球的人工智能竞赛。微软迅速将其融入搜索引擎“必应”，成功挑战了谷歌的市场地位。谷歌也不甘示弱，推出了Bard作为回应。同时，马斯克创立的XAI公司也试图推出自己的GPT产品，尽管结果并不理想。这场由ChatGPT引发的人工智能竞赛，正快速融入到多个领域，推动科技产业不断发展。 根据巴西媒体《NEXO》2023年12月29日文章《2023年人工智能发展概览与2024年前景展望》，人工智能，作为计算机科学的一个分支，旨在开发和应用能够模拟、延伸和扩展人类智能的理论、方法和技术。其核心在于构建具有学习、推理、感知、理解、语言处理及创造能力的智能系统，以应对复杂多变的环境和任务。随着技术的不断进步，人工智能的应用领域日益广泛，从生物识别、客户服务到自动驾驶汽车，再到军事基础设施的运行，人工智能系统已深度融入进社会生活的方方面面。尤其在数据分析和处理领域，人工智能正以其高效、准确的特点，改变着传统的工作模式。 尽管如此，目前新型人工智能作为由发达国家主导的技术，引发了全球南方国家对于来自北方的数据殖民主义与维护自身技术主权的担忧。而且，人工智能的广泛应用对地缘政治和新型军事战争产生深远的影响。与此同时，自动生成式人工智能在司法等领域的应用也引发一系列的伦理冲击。人工智能技术的革新为世界各国带来前所未有的机遇与挑战。在这场全球范围的竞赛中，巴西作为全球南方的重要国家之一，无论政府还是社会都对人工智能技术展现出浓厚的兴趣与热情。下文将重点展示来自巴西的反思与实践。 （一）数据殖民主义与技术主权 巴西媒体《Outras Palavras》2023年12月6日文章《避免巴西成为 ChatGPT 的俘虏》指出，ChatGPT在未来几年仍将是最佳模型，但问题在于，目前我们只是在继续助长所谓的“数据殖民主义”（colonialismo de dados）——我们免费向硅谷的大型科技公司“输出”（或称“交付”）数据，同时以高价“输入”他们开发的技术。这和近几十年来的情况一样，数据就相当于新一代的“石油”，巴西依然只是在输出数据。这个问题早在20世纪90年代网络公司兴起之初就出现了，随后Web 2.0和社交媒体的出现使其进一步凸显，如今这一情况将再次发生。 同一家媒体发表于2023年12月15日的文章《人工智能：巴西会选择成为附庸国吗？》批评称博索纳罗政府所采取的道路是“荒谬”的，有必要紧急扭转其在关键知识领域采取的助长殖民主义的政策。国家在科技发展方面发挥着决定性作用，而模仿是技术发展的途径之一。然而，博索纳罗却执着于购买“最好的服务和产品来维持公共服务质量”，并没有成为技术开发的“模仿者”，未能使巴西进入更高级的阶段。仅仅作为购买者和使用者，不足以使巴西获得基本的技术主权。此外，博索纳罗政府也未足够重视“技术多样性”，即未能在信息和通信技术的发展中，吸收和应用巴西本土的文化观点和生活方式。该文章指出，巴西没有保护好本国的数据资源，该国的司法机构甚至将其司法程序和内部通信的数据“托付”于外国的大型科技公司，而这些公司却往往脱离于巴西政府的管辖范围。大多数巴西的政策制定者都在为将政府、大学和公共数据交给美国公司寻找理由，却很少有人提出加强数据主权的公共政策。 文章还引用了爱德华多·加莱亚诺（Eduardo Galeano）在其著作《拉丁美洲被切开的血管》序言中的一句话：“所谓国际分工，就是指一些国家专门获利，而另外一些国家专门遭受损失。”文章指出，新殖民主义在数字经济上的表现十分突出，在这种国际分工中，巴西可以扮演两个角色：一是作为巴西人口数据的提供者，训练大型科技公司的算法系统；二是成为应用程序的制造商，为科技公司的人工智能生态系统和基础设施提供支持。但除此之外，巴西还有其他选择，例如制定数字主权战略、建立数据和人工智能基础设施，将数字主权议题作为巴西的优先议程。 《Outras Palavras》2023年12月6日文章《技术能否将我们从市场的暴政中解放出来？》采访了拥有白俄罗斯和美国双重国籍的科技互联网批评家叶夫根尼·莫罗佐夫（Evgeny Morozov）。在谈及技术主权时，莫罗佐夫表示，这其中既有务实的因素，也有乌托邦的因素。从务实的角度来看，无论是在云计算和5G，还是在人工智能领域，如果没有能够与美国或中国服务提供商相抗衡的力量，技术主权在短期内是无法实现的。从乌托邦的角度来看，应提倡的政治议程并不是简单地宣传初创企业和孵化器的好处，而是真正促进更复杂的工业发展进程。就全球南方国家而言，特别是就拉美经济体而言，这将意味着摆脱长期依靠原材料出口的发展模式。莫罗佐夫强调，要将人工智能议题与经济学的视角联系起来，而不仅仅囿于创新或国家安全的议题——“没有经济学，技术主权议程将永远是空洞的且单一的”。 （二）地缘政治风险与新军备竞赛 《阿特拉斯报告》（Atlas Report）2023年6月26日文章《全球社会中的人工智能发展带来的四种地缘政治风险》指出，人工智能的发展可能带来地缘政治风险。对于民用领域，如果缺乏监管，人工智能能力的增长可能给社会带来负面影响；对于军用领域，部分国家的国防部门正在研究如何在战场上应用人工智能，这可能会增加武装冲突的风险。因此，人工智能的地缘政治风险是同时体现在民用和军用两个方面的。 应用于武器的人工智能技术的发展，引发了对于潜在的新军备竞赛的担忧。美国国防部高级研究计划局（DARPA）是这场竞赛的主要推动者之一。该部门在人工智能项目上投入了大量资金，用于制造自主武器，使其能够在没有人类直接干预的情况下做出决策并采取行动。其中，无人驾驶飞机可以配备先进的人工智能系统，使其能够在执行任务时独立做出选择目标、评估威胁和实施攻击等决策。虽然有人认为自主武器和无人机的应用是一种战略优势，也是降低军事风险的一种方式，但与此同时也出现了一些反对的声音。主要的担忧之一是人类无法直接控制这些武器的行动，这可能导致不可预见的后果，并增加冲突的杀伤力。 此外，对于这些自主武器行动的责任，也存在伦理方面的担忧。当自主无人机犯错或造成附带损害时，谁该负责？在由算法做出决策时，如何确保遵守国际人道法、比例原则和区别原则？是否需要制定国际法规来控制自主武器和无人机的开发和使用，仍是一个讨论未果的问题。 目前，部分国家已认识到这项技术在增强国防实力上的潜力，正在大力投资用于军事目的的人工智能开发。例如，作为在国防行动中使用人工智能的先驱，美国在自主武器系统、情报数据分析、监控系统和基于人工智能的网络安全等项目上都进行了投资；俄罗斯已开发出自主武器系统、作战无人机、先进的防空系统以及用于情报数据分析和决策的人工智能算法；英国同样在推动人工智能军事用途的研发，正在重点投资自主防御系统、网络安全、大数据分析和无人机等项目；以色列以其高度发达的国防工业著称，并已将人工智能融入无人机、防空系统、智能监控等各个军事领域；土耳其是公认的在军事行动中开发并积极使用自主无人机的国家，该国的拜卡公司（Baykar Makina）制造的 Bayraktar TB2是土耳其生产的最著名、最先进的无人机之一。 该文章指出，人工智能正在成为各国的重要战略领域，对地缘政治的多个方面产生深远影响。 其一，在技术竞争方面，各国都在寻求引领人工智能的发展和应用，以获得经济、军事和安全优势；其二，在安全与国防方面，人工智能的应用会对军事战略、国际关系甚至全球稳定产生深远影响。其三，在地缘影响力方面，掌握人工智能的国家可以干预与人工智能有关的全球标准、法律法规等，这可能会对人工智能治理、数据隐私、道德和网络安全产生影响。其四，在挑战和关切方面，各国如何应对这些挑战并制定与人工智能相关的政策和法规，会影响其地缘政治地位。其五，在合作与竞争方面，一些国家在人工智能的开发中激烈竞争，而另一些国家则寻求国际合作，以应对共同挑战，实现知识共享，并为人工智能的使用制定道德和法律标准。简而言之，这项技术的发展具有重要的地缘政治意义，地缘政治的未来将越来越多地受到人工智能的演变和应用的影响。 （三）自动生成式人工智能的伦理冲击 《Outras Palavras》2023年5月29日文章《人工智能：所有颠覆行为都会受到惩罚吗？》指出，除功能缺陷和种族主义之外，将机器人应用于社会治理还存在其“黑暗的一面”：“通过阻止任何越轨的可能性，正义沦为盲目的暴政，而无法看到世界的复杂性”。无论是超市中可以自动识别盗窃犯的摄像头、车辆配备的超速时自动减速系统，还是用于检测税务欺诈的算法、ChatGPT在撰写判决书中的应用，都体现了一个共同的趋势——法律的自动化。如果这些工具得到普及，任何人都无法在商店偷窃或偷税漏税。这表明，人工智能在确保遵守法规上的作用是十分具有诱惑力的。然而，这与其说是法律的胜利，不如说是法律作为道德共同体实践的终结，取而代之的更像是一种盲目的暴政。 文章引用哲学家马克西姆·费布鲁里 (Maxim Februari) 的观点，强调机器与人类不同，机器并非出于责任而行动的道德主体。“机器根本不关心我们作为人的真相，也不屑于去理解，它们唯一寻求的就是运转：执行操作。”因此，无论地铁售票员多么严厉，他总是比自动化系统更有同情心。西班牙国家研究理事会（CSIC）的人工智能专家拉蒙·洛佩斯·德曼塔拉斯（Ramón López de Mántaras）表示：“我们相信人工智能是无限的，但事实上它是极其有限的，最重要的是，它与人类的智慧无关。”尽管这些工具有各种优点和用途，但曼塔拉斯警告说，人工智能并不是真正的智能，它只是在无法理解任务的情况下执行任务。虽然人工智能在执行具体操作方面比人类更熟练，但它缺乏人类所拥有的复杂世界的知识。 文章指出，世界的运转在很大程度上要归功于非正式的流程、经验和无法量化的行为。即使是最野蛮的人，也能获得机器所不能拥有的大量感受，同情、愤怒、怀疑、冲突、恐惧、耐心……这些感受时刻影响着他们的行动。历史还告诉我们，忽视非正式程序的重要性总是会导致灾难。人工智能机械地运用法律实际上违背了法治原则。“法律是可计算的，但正义不可以。”法治与威权的区别在于，法治社会中权力的行使是受到保障的。决策不能简单地依赖权威，而必须合法、合理。因此，法律高于权力意味着社会存在不断呼吁、质疑、决策和辩解的实践。为了寻求一种封闭的秩序而放弃这种实践，就意味着共同体的消散和法治的中止。“当我们谈论自动化时，我们谈论的不仅仅是先进性，而是一种截然不同的治理形式。” 将治理的任务交由人工智能，问题不仅在于人工智能容易出现偏差和错误，而在于无论算法如何完善、数据如何精炼，自动化系统永远无法与人类的解释能力相提并论。人工智能与人类智能的区别不在于数量，而在于质量。技术可以帮助完成简单的任务，例如查找或整理信息，这样可以减轻法院的工作量，加快诉讼流程。但另一方面，法官的判决不应由生成式人工智能系统（如 ChatGPT）做出，因为无论该工具能产出多少判例法，它都无法理解其真正的意义：伸张正义。 法官是法律与具体案件之间的纽带，在他的每一个判决中都必须引入原创元素。自动应用的规则会给人造成公平的错觉，但实际上却恰恰相反：在不同的案例中强加相同的解释。正义需要在每个案件中得到特殊的考虑。雅克·德里达（Jacques Derrida）在《法律的力量》中这样说道：“法律是可计算的元素，而正义是不可计算的，它要求我们用不可计算的方式来进行考量。” 在《Outras Palavras》2023年12月4日文章《人工智能：这场战斗是为了全球南方的未来》中，人类学家拉斐尔·伊万杰里斯塔（Rafael Evangelista）指出，人工智能占据了“社会的想象力”，集中了人们的“期望”和“投资”，展示出自己逼近或超越人类的能力，并由此体现出人工智能在提高生活质量上的作用。对于人工智能而言，数字化和追踪社会互动行为被定义为一种更客观的、更优越的知识生产方式，由此便加强了所谓“以数据为中心的认识论”。通过构建数字互动环境和大规模数据收集（不仅限于在网络上，城市空间中同样已布满数据收集器），人工智能不仅在人们的互动中发挥“调节”作用，而且还在选拔和奖励教师、预防性警务工作、可能带有歧视性的面部识别系统等方面发挥着作用。 （一）人工智能为巴西带来的机遇 根据巴西通讯社（Agência Brasil）2023年11月9日文章《科学家看人工智能的风险和好处》，巴西科学院（Academia Brasileira de Ciências）《巴西人工智能发展建议》报告的作者之一、里约热内卢联邦大学（UFRJ）教授埃德蒙多·阿尔布克尔克·德索萨·席尔瓦（Edmundo Albuquerque de Souza e Silva）表示，人工智能是颠覆性的技术，将带来以尖端技术为基础的巨大变革。报告指出人工智能广泛地应用于教育、医疗、能源、金融和服务等各个领域。 在教育领域，德索萨·席尔瓦表示：“人工智能可以提高教育的效率，因为它能够利用已开发的技术提供丰富的材料”。这一技术能让教学变得更容易，使教师可以更专注于关键部分，培养学生的批判性知识。同时，新技术还可以帮助提高学生的创造力和好奇心，为学生提供个性化内容等，从而减少辍学现象。 在医疗领域，人工智能技术可以帮助诊断和识别疾病、提供个性化治疗等。巴西统一卫生系统（SUS）中的数据可服务于公共政策的制定，即“从数据中学习”，借助人工智能技术了解国民健康情况。虽然尚不能让人工智能在没有医生的情况下进行独立诊断，但它有时可以帮助医生发现更难察觉的病情。 在能源领域，人工智能可以基于气候预测和需求监测，协助人们做出决策。在生物多样性方面，它可以用来预测与气候变化有关的情况，并应用于环境保护和动物监测等。此外，企业还可以将这项技术用于客户服务，从而提供更准确的信息、更便利的流程，推出更人性化的自动化服务。德索萨·席尔瓦表示：“当你正确地、批判性地使用人工智能时，它就会成为一个助推器。” 在司法领域，人工智能被创造性地应用到巴西的立法工作中。根据《NEXO》2023年12月1日文章《巴西批准第一部由ChatGPT编写的法律》，去年11月29日，一部完全由ChatGPT编写的法律在巴西南里奥格兰德州首府阿雷格里港获得通过。该法律规定当居民家中的水表因被盗而需换新时，可免除相关费用。法案的想法来自于阿雷格里港市议员拉米罗·罗萨里奥（Ramiro Rosário），文本则由人工智能起草。罗萨里奥表示，之所以选择使用该工具起草一项不涉及太多敏感问题的“简单”的法律，是为了测试在立法活动中使用人工智能的可能性。而事实证明，人工智能不仅提供了文本，还在原本指令的基础上进行了优化——提出将更换水表的最长期限设定为30天。这一提议也被纳入了最终文本，罗萨里奥表示这样的创造性“是原本没想到的”。罗萨里奥还在采访中表示：人工智能在政治领域的应用，将提高公共权力的质量和生产力，节省政治代理人的时间，同时生产出更多的技术知识。 在企业层面，巴西企业对人工智能的应用也已达到较高的水平。美国国际数据公司（IDC）于2022年发布的一项研究报告显示，巴西是拉丁美洲地区人工智能技术应用率最高的国家。据统计，巴西有63%企业使用了与该技术相关的应用程序，远超拉丁美洲的平均比例（47%）。根据这份报告，七成巴西企业使用人工智能技术的主要目的是提高历史数据分析能力，以增强预测性洞察力。在接受采访的巴西公司中，90%已对数据和分析进行投资，以识别消费趋势和模式，这一比例高于拉丁美洲平均水平（60%）。 在个人层面，据美国公司盖蒂图片社（Getty Images）在2023年进行的一项涵盖全球超过25个国家、7000多名成年人的调查显示，巴西民众对人工智能的期待远超全球平均水平。有六分之四的巴西人认为人工智能可能给他们的生活带来积极影响，这一比例显著高于世界其他地区。调查还显示，巴西民众对人工智能的积极态度，主要源于其在提升生产力方面的巨大潜力。巴西约90%的民众相信，人工智能将成为他们提升工作效率的有力工具。这种乐观情绪和高度期待，为巴西在全球人工智能领域的发展奠定了坚实的基础。 （二）人工智能为巴西带来的挑战 根据《阿特拉斯报告》（Atlas Report）2023年6月26日文章《全球社会中的人工智能发展带来的四种地缘政治风险》，美国政治学家伊恩·布雷默（Ian Bremmer）认为，人工智能的发展可能带来以下四种风险。 其一，虚假信息。随着人工智能的发展，区分人工智能机器人和人类变得越来越困难，尤其是在文本、音频和视频中。专制国家可以利用人工智能加强政治稳定，而在民主国家，人工智能则可能破坏制度建设、侵蚀信息自由空间。 其二，恶意扩散。越来越多的人可以利用人工智能技术制造危险病毒、具有致命攻击性的自主无人机、恶意程序和其他网络威胁等。这可能会给政府的有效应对带来挑战，扩大安全风险。 其三，失业和流离失所。人工智能的进步可能导致人类工作被自动化取代。尽管会出现新的工作岗位，生产率也会提高，但失业会引发工人的不满，造成社会紧张。如果缺乏针对弱势群体的帮扶和再培训政策，可能会导致民众更多地支持反建制政客，并增加民众对政治领导人的合法性质疑。巴西工业研究与创新公司（EMBRAPII）网站2023年8月23日文章《在巴西使用人工智能的挑战》就人工智能可能带来的失业问题，采访了工业创新专家小埃德尔维西奥·索萨 （Edelvicio Souza Junior）。索萨表示，这是一个有争议的话题，有人认为人工智能的应用在终结或深刻改变某些岗位的同时，也会创造新的岗位；同时也有人认为，这一技术将造成严重的失业问题。而可以肯定的是，容易被自动化取代的重复性工作已经受到影响，而且将会受到更大的影响。同时，目前的许多职业并不会完全消失，而是会被人工智能和机器人技术深刻改造。索萨指出，对于很多职业来说，“也许你不会被技术取代，而是被比你更懂得如何使用技术的人取代”。 其四，人际互动被技术替代的风险。人们担心人与人之间的互动将被技术关系所取代，过度依赖人工智能会导致“非人化”（desumanização）和社会隔离。当人工智能公司的利益与人类福祉不一致时，就有可能出现功能障碍，失去对社会和情感发展至关重要的人际连接。 此外，巴西科学院的报告指出，人工智能的风险和伦理争议还包括算法歧视。当人工智能再现种族主义、性别或出生地偏见时，就会使得人工智能在公共安全或法律程序中的应用备受争议。南里奥格兰德天主教大学（PUC-RS）计算机科学教授索拉娅·穆塞（Soraia Raupp Musse）警告说：“在美国，已经有了人工智能根据囚犯的肤色来决定其再犯可能性的例子。” 行为操纵在社交网络上最为明显，并且给巴西和全世界的民主制度带来了严重风险。社交媒体算法经常放大极端主义的声音，并助长假新闻的传播。随着人工智能制作的图像的出现，这种现象变得愈发严重。里约热内卢联邦大学教授埃莉萨·雷斯（Elisa Reis）分析道：“所有知识都是一把双刃剑，我们可能会迎来一个新的文艺复兴或蒙昧主义的时代。真正的民主进步不仅在于纠正技术的弊端，更在于改善整个社会环境。” 而在侵犯隐私的问题上，学者对于巴西国会于2018年通过的《通用数据保护法》（LGPD）立场不一。索拉娅·穆塞教授认为，该法限制性太强，严重限制了研究的进展，阻碍了安防监控的使用。亚马逊联邦大学（UFAM）计算机学院的阿尔蒂格兰·苏亚雷斯（Altigran Soares）则认为需对数据的获取进行有效地管控，并强调了隐私问题。 报告指出，重要的是以这些关切为指导，制定原则、规范和法律，最大限度地降低人工智能所带来的风险，同时又不使技术发展陷于瘫痪。为此，讨论不应局限于学术界和商界，还应将工人、消费者和政界纳入其中，因为人工智能影响着我们每个人的生活。 （一）巴西对人工智能的监管措施 早在2021年4月，巴西科技创新部（MCTI）便前瞻性地发布了《巴西人工智能战略》（Estratégia Brasileira de Inteligência Artificial，简称“EBIA”），旨在指导国家行动，推动技术的开发和使用，促进科学进步，作为一份汇集了主要需求和指导方针的文件，以便以负责任和客观的形式，使人工智能的使用满足巴西各州、市的需求。 2023年12月11日，科技创新部宣布启动新的人工智能战略修订工作。在接下来的五个月，该部门围绕人工智能技术的各个方面展开广泛而深入的讨论，并收集相关研究报告。这些议题包括但不限于人工智能的使用案例、域外监管模式的借鉴等。为此，巴西科技创新部还组织一系列研讨会，邀请政府代表、私营部门以及人工智能领域的专家学者共同参与，一起为巴西的人工智能发展献策。至今，新的战略仍在审议中。 科技创新部部长卢西亚娜·桑托斯（Luciana Santos）在参议院的听证会上表示，修订《巴西人工智能战略》的提议将涵盖基础设施建设、专业人员培训和人工智能监管面临的挑战等多个方面。桑托斯解释称，人工智能或将颠覆世界的生产模式，其潜在影响将波及健康、农业、司法和政治等多个领域。因此，政府高度关注这场“技术竞赛”，以确保能够就相关法规展开深入辩论并妥善应对。为此，科技创新部计划于今年6月提交全新的战略方案，以应对人工智能带来的机遇与挑战。 根据《CNN巴西》（CNN Brasil）2024年2月18日的新闻报道，目前，巴西的参众两院正在对约46项旨在规范人工智能使用的法案进行审议，并有望在2024年年底之前取得进展。巴西联邦参议院主席罗德里戈·帕切科（Rodrigo Pacheco）已明确表示，人工智能的规范问题将成为立法机构上半年的优先事项。 议员们探讨的议题中，选举过程中滥用人工智能的现象尤为引人注目。此类滥用使得散播谣言、诽谤候选人的行为成为可能，对选举的公正性造成了威胁。此外，高级选举法院（TSE）提出的修改选举宣传决议的建议，也为改变市政选举的局面带来了可能性。这一建议旨在规范人工智能技术的使用，并探索制定有效方法，防止其被用于传播虚假信息和误导性内容，从而维护选举的公平与透明。 根据2024年1月初提交的草案，只有在内容被“明确且显著地”标注为“经过捏造或篡改，并明确标明使用了何种技术”的情况下，才允许在选举宣传中使用人工智能。这一规定旨在确保公众能够准确判断信息的真实性，避免被误导。此外，该建议还提议禁止使用那些“已知不真实或严重脱离实际”的受操纵的选举材料，这些材料可能会对选举的公正性和完整性造成不良影响。在这些情况下，根据草案规定，一旦接到通知，负责传播相关内容的提供者应立即采取措施“调查并撤销”，以确保虚假信息不会被进一步传播。有关选举中限制使用人工智能的提案在1月23日至25日举行的公开听证会进行了深入的讨论。其他的审议工作预计在今年3月前完成，以确保相关规定能在2024年的选举中得以实施，但具体的生效日期截至目前尚未最终确定。 2024年2月27日，巴西高等选举法院（TSE）批准了12项新决议来指导今年10月份即将开展的市政选举。例如，根据第23732号决议的规定，如果社交媒体平台未能及时移除对选举完整性构成“风险案例”的违规内容或账户（如涉及虚假信息和反民主行为的信息），那么平台将需承担连带责任。 而巴西首部实质的综合性人工智能监管法案（Projeto da Lei 2338/2023）由帕切科于2023年5月3日提交至联邦参议院，目前仍在进行内部审议。帕切科表示，该法案旨在创建人工智能的法律框架，以保护公民的权利，并创建一套完整的监管原则和规则，由负责人工智能监管的机构执行。2023年，参议院组建人工智能内部临时委员会，推动展开了10场专家听证会，预计将在2024年4月底表决通过法案。在专门监管人工智能的法案正式实施之前，巴西在处理涉及人工智能的案件时，将继续沿用一般性的法律法规，如《巴西民法典》、《联邦宪法》以及《通用数据保护法》，以确保相关案件能得到妥善处理。 （二）欧美对人工智能的监管措施 2024年3月13日，欧盟以 523 票赞成、46 票反对和 49 票弃权的表决结果正式批准了全球首部对人工智能的使用和发展进行全面规范的法律——《人工智能法案》（AI Act）。这部法案在欧盟内具有普遍适用性，覆盖了所有欧盟内使用的人工智能产品，为在欧盟运营的人工智能系统开发商设立了新的规范和标准，旨在确保这些系统的安全运行并遵守当地法律法规。法案的核心内容包括保护隐私、消除偏见以及与人工智能技术相关的其他风险防控。为实现这些目标，法案包括一系列具体措施，如明确禁止人工智能的某些不当用途、引入更为严格的透明度要求，以及对部分系统实施风险评估的强制性规定。 该法案创造性地根据风险程度将人工智能划分为低、中、高和“不可接受”四个风险等级。例如，公民行为评分系统因其可能侵犯个人隐私和自由，被明确归为“不可接受”的风险类别，并严格禁止其开发和使用。 然而，相较于欧盟的立法，巴西的人工智能法案又将呈现怎样的差异？欧盟创新性的风险分类方法为人工智能的监管提供了更为精准的指导。根据《NEXO》2023年9月9日文章《监管人工智能使用的挑战》，巴西《第2338/23号法案》遵循了类似的逻辑，但仅作了两级风险划分：一级是“过度风险”，这类应用将被明确禁止；另一级则是“高风险”，对于此类技术的应用，必须在使用前和使用过程中进行严格的评估和监测。被视为“过度风险”的应用主要包括利用社会弱点或促使公共当局对民众进行分类以获取公共产品和服务的算法，比如社会福利的分配等；而被视为“高风险”的应用则主要指向在诸如教育（过滤进入教育机构的机会）、劳动（对职位空缺候选人进行分类）、健康（做出医疗诊断）和社会保障（发放社会保障福利）等领域做出决策的软件。为了确保此风险分类系统能够适应动态变化的技术环境，避免僵化，巴西的法案中特别提出设立未来监管机构以重新评估特定应用的风险等级。 来自巴西圣保罗大学（USP）法学院的执业律师安东尼奥·卡洛斯·莫拉托（Antonio Carlos Morato）对此表示，巴西《第2338/23号法案》是涉及人工智能使用风险分类方面规定最为完整的法案，“它敏锐地捕捉到了立法趋势，特别是欧盟在这方面的立法动向”。就风险等级的细化而言，这部法案“来得非常及时”。 巴西Baptista Luz律师事务所的合伙人凡妮莎·皮罗（Vanessa Pirró）在《法律顾问》（Consultório Jurídico）2024年4月8日文章《欧盟的人工智能监管和巴西的法律框架》中指出，关于“布鲁塞尔效应”（Efeito Bruxelas，指欧盟通过市场机制将其法律推广至境外，使其单边监管全球化的过程）的论述已经屡见不鲜，普遍认为欧盟正式通过的《人工智能法》将对巴西正在热议的人工智能法律框架产生直接影响。然而，“从政治立法的角度来看，巴西仍面临漫长的道路，仍然存在诸多变数，我们未必会完全遵循欧盟的路径。” 皮罗认为，欧盟并非规范人工智能领域或影响他国的唯一先驱。事实上，中国早已跻身最早实施人工智能法规的国家行列，并制定了多项相关标准。美国发布的《人工智能权利法案蓝图》（Blueprint for an AI Bill of Rights）亦已明确提出在设计和应用人工智能模型时应遵循的5项原则，即安全有效的系统、算法歧视保护、数据隐私原则、通知及解释、可替代性原则。在英国，政府已制定指导方针，力求在推动创新与确保负责任地使用人工智能技术之间找到平衡，并依靠现有的部门法律对人工智能系统实施限制。而秘鲁更是先行一步，已经制定法律促进人工智能的应用，以推动国家的经济与社会发展。皮罗据此表示，巴西在制定其人工智能法案时，需要综合考虑国内外多种因素，形成更符合自身国情的法律框架。 皮罗进一步强调，尽管欧盟《人工智能法案》无疑在人工智能监管史上占据了举足轻重的地位，但它绝非唯一的里程碑。在探讨人工智能监管问题时，巴西必须将视线投向更广阔的领域，深入了解其他地区的情况，并审慎考虑是否存在其他行之有效的监管模式。以英国为例，英国政府将部门规章视为限制人工智能使用模式的核心要素；而在新加坡，为了激励企业自律并达成其他相关目标，已经公布了多种治理模式。换言之，“自上而下、由国家主导的监管方式，并非我们在讨论中唯一需要考虑的路径。巴西需要开放思维，探索并采纳多元化的监管模式，以适应本国的具体情况和需求。” 在巴西工业研究与创新公司网站2023年8月23日文章《在巴西使用人工智能的挑战》中，小埃德尔维西奥·索萨指出巴西人工智能市场的几大痛点。首先，以数据为导向的组织越来越多，在这种情况下，人工智能和大数据分析发挥着根本性的作用。而市场研究表明，巴西市场有相当一部分的组织仍然没有建立起数据驱动的文化，缺乏创新意识，决策大多基于直觉、自身经验或第三方经验，而不是数据和指标。其次，缺乏数据素养（alfabetização de dados）是阻碍数据驱动型组织取得成功的重要原因。数据素养是指读写和交换数据的能力，包括对数据来源、数据结构、分析方法和应用技术的理解，以及用例描述、应用数据和使其产生价值的能力。此外，影响巴西乃至整个国际市场的另一个关键因素是合格劳动力的短缺。例如，相当一部分大学课程里，不培养数据科学相关职位所要求的技能。最后则是缺乏监管所带来的风险。 2023年11月9日，巴西科学院发布《巴西人工智能发展建议》。该报告由来自不同知识领域的16名研究人员合作编写而成，其目标是描绘国家人工智能发展所面临的挑战，并指出如何在社会各领域负责任地使用人工智能。报告提出了加强人力资源培养、优化人工智能在教育中的应用、为人工智能研发提供长期投资、强化监管和数据保护等建议。 为了在这一前沿领域取得发展，巴西需要解决三个主要问题：培养合格的人才、生成和存储高质量数据以及建立适当的计算基础设施。巴西目前在第一点和第三点上存在不足，但在第二点上具有比较优势。 之所以具有这一优势，是因为巴西生成了大量数据，其中包括巴西统一卫生系统生成的卫生数据、通过全国高中考试（Enem）和阿尼西奥·特谢拉国家教育研究学院（Inep）生成的教育数据、通过国家亚马逊研究所（Inpa）和国家空间研究院（Inpe）生成的生物群落环境监测数据，以及通过巴西地理统计局（IBGE）生成的社会数据。研究人员认为，巴西需要通过创建更好、更互联、更易于访问和使用的数据库来改进数据存储。 巴西作为一个发展中国家，在培养人才方面面临一定困难。由于巴西学术界的薪酬相对于外国公司和机构缺乏竞争力，巴西目前遭受着大量的人才流失。与此同时，美国和欧盟国家将吸引优秀移民纳入了人工智能指导方针。里约热内卢天主教大学（PUC-RJ）教授、巴西科学技术和创新部顾问若泽·罗伯托·布瓦松（José Roberto Boisson）表示，现在应该将投资重点放在人工智能上。因此，研究人员认为迫切需要制定政策，通过支付具有国际竞争力的补助金和薪水来留住人才。同时也指出，要做到这一点，除了国家投资外，还需要创造私人投资激励机制——对人工智能相关服务的高需求使得这一领域对私营部门具有天然的吸引力。 而在建设充足的人工智能计算基础设施方面，该报告建议创建“具有必要能力的多学科中心”，为学术界和商业部门提供服务。圣保罗大学物理学院教授兼Ilum科学院协调员阿达尔贝托·法齐奥（Adalberto Fazzio）院士建议在大学附近建立人工智能中心，并强调这些中心要有自己的行政机构，为研究人员提供更大的专业自由。 阿尔蒂格兰·苏亚雷斯教授指出：“巴西拥有战略优势。我们有一个渴望技术的消费市场，有一股投资初创企业的浪潮，还有对人工智能感兴趣的风险资本。这让我们能够创造机会，为研究机构提供投资。但我们需要在这种需求流向国外之前完成这项工作。” 需要强调的是，合格人才的培养并非从高等教育开始，而应该从儿童时期就着手进行。因为新一代人将置身于一个比现在更加深度融入人工智能的社会环境。关于在初等教育中引入人工智能，这确实是一个颇具争议的话题。至少有一点必须明确：即使技术可以作为教学辅助工具，但它无论如何都无法替代课堂上师生间的互动。因此，培训教师便成为了首要任务。综上所述，该报告建议，培养年轻人的关键在于让他们对人工智能有所了解，具备批判性思维，并能够针对国家面临的挑战提出前沿的解决方案。 《Outras Palavras》2023年12月6日文章《避免巴西成为 ChatGPT 的俘虏》肯定了该报告的观点，同样强调制定公共政策的重要性。文章还补充强调，除了联邦政府的直接参与之外，巴西国内的投资能力也非常突出。例如圣保罗研究基金会（FAPESP）等联邦和州立研究机构，巴西国家石油公司（Petrobras）等上市公司，以及巴西国家开发银行（BNDES）和巴西银行（BB）等金融机构，甚至还包括国际融资渠道。此外，还有积极刺激国家工业部门增长的“S系统”（Sistema S，由9个实体机构出资，资金服务于公共利益）和各种工业部门联合会。文章还提出了以下补充建议。 在短期层面，其一，就人工智能的主要用途、工具、需求、担忧和困难，对公务员和研究人员进行一次全国性调查；其二，对联邦、州和市各级公共机构已制定的解决方案进行摸底；其三，共享基于应用案例的知识；其四，对公务员进行持续性的直接培训，提高专业政治家、顾问和政党对此的认知；其五，紧急发布大型公开提案征集令，加强私营部门、非营利组织、大学和政府实体之间的联合协作，鼓励人工智能发展，为国家开发可行和可持续的人工智能发展方案。 在中期层面，首先，建设大型国家技术服务器园区，提供有效的云存储、云处理服务，配备超级计算机，以提高数据处理能力和各公共机构访问数据的能力；其次，以国家科学技术研究院（Institutos Nacionais de Ciência）作为参考，建立公立大学联盟，致力于开发自己的大型语言模型（LLM）和其他技术；最后，按照《第2338/2023号法案》的思路，通过一部规范巴西人工智能的法律，并大胆地重新制定《巴西人工智能战略》。 根据巴西媒体《NEXO》2023年11月9日文章《巴西如何利用人工智能竞赛》，巴西科学院建议报告的协调人、米纳斯吉拉斯联邦大学教授维吉利奥·阿尔梅达（Virgílio Almeida）表示：“我们需要尽快开始，因为这种发展正在飞速进行，其他地方也在投资、加速发展并制定相关政策。巴西幅员辽阔，地位重要，不能落在后面。否则，巴西的经济发展与发达国家的差距将会扩大。”阿尔梅达还指出，现在巴西在一个小小的机遇窗口内，有望缩小与发达国家的差距。只要巴西制定公共政策，给予投资，保障资源，并制定数据使用政策，推进监管程序，就可以对巴西人工智能的未来持乐观的态度。 参考文献:（滑动查看更多） 1.《Outras Palavras》2023年12月12日文章《关于人工智能背景下的数据保护的思考》（Para pensar a proteção de Dados no contexto da IA） 2.《市场&消费》（Mercado & Consumo）2023年12月12日文章《巴西是全球最接受人工智能技术的国家》（Brasil é o país mais receptivo com tecnologias de inteligência artificial do mundo） 3.《NEXO》2023年12月29日文章《2023年人工智能发展概览与2024年前景展望》（A inteligência artificial em 2023. E as perspectivas para 2024） 4.巴西通讯社（Agência Brasil）2023年11月9日文章《科学家看人工智能的风险和好处》（Cientistas veem riscos e benefícios da inteligência artificial） https://agenciabrasil./geral/noticia/2023-11/cientistas-veem-riscos-e-benef%C3%ADcios-da-intelig%C3%AAncia-artificial 5.SAS公司官网2022年10月27日文章《巴西是拉丁美洲运用人工智能最先进的国家》（Brasil é o país mais avançado da América Latina no uso de inteligência artificial） https://www./pt_br/news/press-releases/2022/october/brasil-e-o-pais-mais-avancado.html 6.《NEXO》2023年12月1日文章《巴西批准第一部由ChatGPT编写的法律》（A primeira lei escrita no ChatGPT aprovada no Brasil） https://www./expresso/2023/12/01/a-primeira-lei-escrita-no-chatgpt-aprovada-no-brasil 7.《阿特拉斯报告》（Atlas Report）2023年6月26日文章《全球社会中的人工智能发展带来的四种地缘政治风险》（4 Riscos Geopolíticos da Evolução da Inteligência Artificial (IA) na Sociedade Mundial） https:///4-riscos-geopoliticos-da-evolucao-da-inteligencia-artificial-ia-na-sociedade-mundial/ 8.巴西工业研究与创新公司（EMBRAPII）网站2023年8月23日文章《在巴西使用人工智能的挑战》（Os Desafios do Uso da Inteligência Artificial no Brasil） https:///desafios-uso-inteligencia-artificial-brasil/ 9.巴西科学院官网2023年11月9日文章《巴西科学院发布〈巴西人工智能发展建议〉》（ABC Lança Recomendações sobre Inteligência Artificial no Brasil） https://www./2023/11/09/abc-lanca-recomendacoes-sobre-inteligencia-artificial-no-brasil/ 10.巴西新闻门户网站《UOL》2024年2月12日文章《了解项目：巴西人工智能监管法案应在四月前表决》（Lei que regula IA no Brasil deve ser votada até abril; entenda projeto） 11.巴西联邦参议院网站关于第2338/23号法案的信息 https://www25.senado./web/atividade/materias/-/materia/157233 12.巴西联邦参议院网站2024年2月1日文章《人工智能监管问题可能在今年上半年投票决定》（Regulamentação da inteligência artificial pode ser votada no primeiro semestre） https://www12.senado./radio/1/noticia/2024/02/01/regulamentacao-da-inteligencia-artificial-pode-ser-votada-no-primeiro-semestre 13.《法律顾问》（Consultório Jurídico）2024年4月8日文章《欧盟的人工智能监管和巴西的法律框架》（Regulamentação de IA na União Europeia e o Marco Legal no Brasil） 14.《CNN巴西》（CNN Brasil）2024年2月18日新闻《国会至少有46项法案对人工智能的使用进行监管》（Congresso tem pelo menos 46 projetos de lei para regulamentar do uso de inteligência artificial） https://www./politica/congresso-tem-pelo-menos-46-projetos-de-lei-para-regulamentar-do-uso-de-inteligencia-artificial/ 15.《NEXO》2023年9月9日文章《监管人工智能使用的挑战》（Os desafios para regulamentar o uso da inteligência artificial） 16.《NEXO》2024年3月15日文章《欧洲的人工智能监管如何启发其他国家》（Como a regulação europeia de IA pode inspirar outros países） 17.《巴西报导》（The Brazilian Report）2024年4月2日文章《巴西在遏制AI生成虚假信息方面的举措是否过犹不及？》（Is Brasil going too far to curb AI-generated disinformation?） 18.《Outras Palavras》2023年12月6日文章《避免巴西成为 ChatGPT 的俘虏》（Para que o Brasil não se torne cativo do ChatGPT） https:///tecnologiaemdisputa/para-que-o-brasil-nao-se-torne-cativo-do-chatgpt/ 19.《Outras Palavras》2023年12月6日文章《技术能否将我们从市场的暴政中解放出来？》（Pode a técnica nos livrar da tirania do mercado?） https:///tecnologiaemdisputa/e-se-atecnica-nos-livrasse-da-tirania-do-mercado/ 20.《Outras Palavras》2023年5月29日文章《人工智能：所有颠覆行为都会受到惩罚吗？》（IA: Toda a subversão será castigada?） https:///tecnologiaemdisputa/ia-toda-subversao-sera-castigada/ 21.《Outras Palavras》2023年12月4日文章《人工智能：这场战斗是为了全球南方的未来》（IA: A luta é pelo futuro do Sul global） https:///tecnologiaemdisputa/ia-a-luta-e-pelo-futuro-do-sul-global/ 22.《NEXO》2023年11月9日文章《巴西如何利用人工智能竞赛》（Como o Brasil pode aproveitar a corrida da inteligência artificial） https://www./expresso/2023/11/09/como-o-brasil-pode-aproveitar-a-corrida-da-inteligencia-artificial 23.美国白宫（The White House）官网2023年《人工智能权利法案蓝图》（Blueprint for an AI Bill of Rights） https://www./ostp/ai-bill-of-rights/ 各国动态 米莱政府计划采购二手F-16战机以推进空军现代化 ——编译自4月16日El País 行业协会就人工智能监管致信国会 ——编译自4月10日Poder 360 联邦最高法院裁定军方不得担任三权“调解者” ——编译自4月8日Agência Brasil 马斯克遵从巴西最高法院的社媒监管指令 ——编译自4月17日Compact Magazine、4月14日Economist 厄瓜多尔总统就使馆事件作最新表态 ——编译自4月15日El País 厄瓜多尔通过全民公投加强打击犯罪力度 ——编译自4月22日El País ——编译自4月15日Infobae 中国与萨尔瓦多启动自贸协定谈判 ——编译自4月17日Noticia del El Salvador 委内瑞拉宣布关闭驻厄瓜多尔使领馆 ——编译自4月16日El Mundo 编译：付一诺、李晓晓 校对：叶慧玲 审核：拉美和加勒比组 获取PDF版本，请登陆官网查看 
|
|
|
