【原】张鹏等 | 欧盟《人工智能法案》的立法价值、立法进程与主要内容速评

作者 | 张鹏 牟雨菲 郭婷婷

中伦律师事务所

目次

    

一、欧盟《人工智能法案》的立法价值：建构广泛适用的人工智能监管机制

（一）欧盟《人工智能法案》的立法目的

（二）欧盟《人工智能法案》的法律属性

（三）欧盟《人工智能法案》的适用范围

二、欧盟《人工智能法案》的前世今生：立法进程回顾与生效程序展望

（一）法案立法进程

（二）法案生效程序

三、欧盟《人工智能法案》的主要内容：建构人工智能监管机制

（一）AI系统的风险划分

（二）特定人工智能系统提供者和部署者的透明度义务

（三）通用AI模型

（四）支持创新的措施 

（五）新治理架构

（六）行政处罚 

摘要

当地时间2024年5月21日，欧洲理事会批准了欧盟《人工智能法案》，全球首个以立法模式对人工智能进行监管的法案即将落地生效，标志着全球人工智能领域法律监管将迈入全新时代。该法案在欧盟法律体系中亦属于最高级别的立法，其立法目的在于保障欧盟公民的基本权利并且激励欧洲人工智能的投资与创新。法案适用于所有位于欧盟境内的AI使用者，以及位于欧盟以外的AI系统的提供商和部署者，或其位于欧盟境内的授权方，具有广泛的影响。

下一步，该法案将送呈欧洲议会主席和理事会主席签署，签署后在欧盟的官方公报上公布，并在公布后二十天生效。本文将结合法案的立法价值与立法进程，对AI系统风险的划分、特定人工智能系统提供者和部署者的透明度义务、通用AI模型、创新支持措施、新治理架构以及行政处罚等内容进行简要评述，以期促进对该法案的深入研究与讨论。

当地时间2024年5月21日，欧洲理事会也批准了欧盟《人工智能法案》（以下简称“法案”）^[1]，这是全球首个以立法模式对人工智能（以下简称“AI”）进行监管的法案，具有广泛影响。本文对法案的主要内容进行介绍，并分析法案的未来立法进程和生效程序，以期引发就该法案对我国人工智能治理的启示的讨论。

一

欧盟《人工智能法案》的立法价值：建构广泛适用的人工智能监管机制

法案的立法目的在于保障欧盟公民的基本权利并且激励欧洲人工智能的投资与创新。法案作为全球首个以立法方式对AI进行监管的法律，该法案在欧盟法律体系中亦属于最高级别的立法。法案适用于所有位于欧盟境内的AI使用者，以及位于欧盟以外的AI系统的提供商和部署者，或其位于欧盟境内的授权方。

（一）欧盟《人工智能法案》的立法目的

法案的立法目的在于保障欧盟公民的基本权利并且激励欧洲人工智能的投资与创新。法案序言部分指出，法案的目的在于提高整体而言，该法案旨在促进自然人及法人在欧盟统一市场上开发和使用安全且值得信赖的人工智能系统^[2]。同时，法案旨在保障欧盟公民的基本权利，激励欧洲人工智能的投资和创新。相关评论认为，人工智能法案的通过对于欧盟来说是一个重要的里程碑。这项具有里程碑意义的法律是世界上第一部此类法律，它解决了全球技术挑战，也为社会和经济创造了机会。通过人工智能法案，欧洲强调在处理新技术时的可信任度、透明度和问责制的重要性，同时确保这种快速变化的技术能够蓬勃发展并促进欧洲的创新^[3]。

（二）欧盟《人工智能法案》的法律属性

法案作为全球首个以立法方式对AI进行监管的法律，该法案在欧盟法律体系中亦属于最高级别的立法。欧盟法律体系下包含不同立法级别的法律文件，包括Regulations, Directives, Decisions, Recommendations and Opinions五种。根据《里斯本条约》第二部分Treaty on Functioning of the EU第288条，Regulation具有普遍约束性、整体约束力、直接适用于所有欧盟成员国。Regulation自正式公布当日其当即对欧盟全体成员国生效，可以直接适用成员国自然人及法人，无需欧盟成员国进行实施性立法，且凌驾于任何有冲突的国内规定，并且可以作为裁判依据。

法案作为全球首个以立法方式对AI进行监管的法律，该法案在欧盟法律体系中亦属于最高级别的立法。该法案属于立法性质的AI监管机制，一经生效适用，将对适用范围内全部公民及法人产生法律强制性效力，且其制约性突破了欧盟成员国，可能对所有可在欧盟范围内应用人工智能系统构成影响^[4]。

（三）欧盟《人工智能法案》的适用范围

法案适用于所有位于欧盟境内的AI使用者，以及位于欧盟以外的AI系统的提供商和部署者，或其位于欧盟境内的授权方。根据法案第2节适用范围规定，该法案适用于不同层级的AI应用参与者，具体包括：提供商（Providers）、部署者（Deployers）、进口商、分销商（Importers and distributors）和产品制造商（Product manufacturers）。这意味着参与AI系统的开发、使用、进口、分销或制造的所有各方都将承担责任。此外，即便提供或部署者位于非欧盟成员国的第三国家，一旦相关系统在欧盟境内输出使用，该法案同样适用于位于欧盟以外的AI系统的提供商和部署者，或其位于欧盟境内的授权方。另外，该法案适用于所有位于欧盟境内的AI使用者^[5]。

二

欧盟《人工智能法案》的前世今生：立法进程回顾与生效程序展望

回顾法案的前世，自2021年4月欧盟委员会内部市场委员蒂埃里·布雷顿提交人工智能法案的提案伊始，经历了法案提出阶段、法案协调阶段、法案通过阶段，历时4年多。展望法案的未来，相关规则分别于法案生效6个月、12个月、24个月、36个月后适用。

（一）法案立法进程序

图1 法案立法进程关键节点示意图

法案提出阶段（2021年4月至2022年）。2021年4月，欧盟委员会内部市场委员蒂埃里·布雷顿提交人工智能法案的提案。2022年12月，先于欧洲议会，欧盟理事会就人工智能法案发布了其一般立场（General Approach）^[6]，该立场将成为欧洲议会内部审议过程中的重要参考依据，也标志着欧盟理事会就人工智能法案推动加快立法程序的态度表示。

法案协调阶段（2023年6月至2024年2月）。2023年6月，欧洲议会通过其关于人工智能法案的一读立场。自此，双方启动了一读程序中的三方会谈，并于2023年12月经过多轮会谈后达成临时协议。该临时协议主要就存在观点分歧的争议问题上达成了协议，并仍需进一步的技术层面以及文本层面的确定。2023年12月，欧洲议会、欧盟成员国和欧盟委员会三方就法案达成协议。此后，法国、德国等国家提出一些异议，特别是法案对先进人工智能模型的监管会阻碍人工智能的发展。对此，欧盟委员会提出支持创新的措施，特别是建立新的监管机构“人工智能办公室”负责该法案的实施。

法案通过阶段（2024年2月至今）。2024年2月2日，作为欧盟理事会内部机构的常驻代表委员会（Coreper）投票通过了其临时决议。随后，2024年3月13日，欧洲议会以523票赞成、46票反对和49票弃权的表决结果通过了根据三方会谈临时决议所达成的人工智能法案版本。2024年5月21日，欧盟理事会正式批准通过了该法案。至此，欧盟的主要立法机构，欧盟委员会、欧洲议会以及欧盟理事会均已通过法定程序批准通过该法案，该法案的文本原则上已不会再出现进一步变动。

（二）法案生效程序

下一步，该法案将由欧洲议会及理事会主席签署，随后在欧盟官方公报上公布，按照一般程序，该法案将于二十天期满20天后生效，而实际上，该法案的大部分规定将于生效两年后适用。根据法案第113章规定，法案内容将分阶段适用，具体程序如下：

1. 法案中规定禁止的做法将在生效6个月后适用，具体为第一章的一般规定（包括适用范围、定义等）以及第二章关于被禁用AI的相关规定。这意味着，预计在2025年前或年初，通过潜意识技术或利用漏洞严重扭曲行为、公共当局的社会评分、用于执法目的的生物识别类型的AI应用将被依法禁止；
2. 通用型人工智能（GPAI）的相关义务和规则（包括第三章第4款、第五章、第六章、第十二章以及第78节）将在生效12个月后适用；
3. 法案将于生效日起的24个月后适用；
4. 法案生效24个月后，该法案完全适用，但一些高风险AI系统的规则（即第6章第1款以及相应义务规则）将在生效后36个月适用^[7]。

图2 法案生效程序关键节点示意图

三

欧盟《人工智能法案》的主要内容：建构人工智能监管机制

法案的总体结构包括七个方面十三章。这七个方面具体为，（1）人工智能系统（AI System）在欧盟市场上的投放、服务和使用的统一规则；（2）禁止某些人工智能行为；（3）对高风险人工智能系统的具体要求以及此类系统运营商的义务；（4）某些人工智能系统的统一透明度规则；（5）通用人工智能模型投放市场的统一规则；（6）关于市场监测、市场监督治理和执法的规则；（7）支持创新的措施，特别关注包括初创企业在内的中小企业。法案重点内容梳理如下。

（一）AI系统的风险划分

法案将AI系统划分为高风险AI系统（high-risk AI systems）及禁止的AI实践 （prohibited AI practices）。法案在其第二章与第三章根据AI系统风险采取列举的方式将AI系统划分为高风险及禁止的AI实践。例如，认知行为操纵和社会评分等AI系统、基于AI预测警务的画像系统以及使用生物识别数据将人们根据特定类别（如种族、宗教或性取向）进行分类的系统将被禁止在欧盟使用及流通。

高风险AI系统虽可授权在欧盟境内使用但仍需满足一定的要求和义务。例如，高风险AI系统需设定风险管理系统，在系统整个生命周期内规划和运行的一个持续迭代过程中定期进行系统审查和更新。使用数据训练模型技术的高风险AI系统应在使用符合法案所规定质量标准的训练、验证和测试数据集的基础上开发。高风险AI系统的设计和开发方式，包括适当的人机交互接口工具应能在人工智能系统使用期间由自然人进行有效监督等。并分别从系统提供者（providers）、授权代表（authorized representatives）、进口者（importers）、分销者（distributors）及部署者（deployers）角度提出相应义务。

（二）特定人工智能系统提供者和部署者的透明度义务

法案明确，提供者应确保直接与AI系统互动的自然人明晰他们的互动对象，除非从一个合理知情、善于观察和谨慎的自然人角度，基于使用情况和场景，该点是显而易见的。生成合成音频、图像、视频或文本内容的AI系统，包括通用AI系统的提供者应确保AI系统的输出以机器可读的格式进行标注，并可检测其系人为生成或操纵。情感识别系统或生物特征分类系统的部署者应将该系统的运行情况告知接触该系统的自然人，并依法谨慎处理个人数据。生成或操纵构成深度伪造的图像、音频或视频内容的AI系统部署者应当披露该内容是人为生成或操纵。法案针对高风险AI系统亦设立了透明度要求，设计和开发者应确保其操作具有足够的透明度，使部署者能够解释系统的输出并加以适当使用。

（三）通用AI模型

法案界定了通用AI模型（general-purpose AI model，GPAI）的内涵，并将其与AI系统的概念进行区分以确保法律的确定性。GPAI是指无论该模型以何种方式投放市场，在使用大量数据进行大规模自我监督训练时均具有显著的通用性，能够胜任各类不同任务并可集成到各种下游系统或应用中。但在投放市场前用于研究、开发和原型设计活动的人工智能模型除外。法案为GPAI和构成系统风险的GPAI提供了具体规则，并根据是否具备系统性风险设立了阶梯式义务。这些规则也应适用于该类模型被集成到AI系统中或构成AI系统一部分的情况。

（四）支持创新的措施 

法案提供了一个创新友好的法律框架，旨在促进基于证据的监管学习。法案创设了人工智能监管沙箱机制（AI regulatory sandboxes），为创新AI系统的开发、测试和验证提供了一个受控的环境，并允许在AI监管沙盒之外的真实环境中测试高风险AI系统。法案还设立了针对中小企业（SMEs）和初创企业（start-ups）的创新支持措施。

（五）新治理架构

为确保法案有效执行，设立以下管理机构：

1. 欧盟委员会内设人工智能办公室（AI Office），负责执行欧盟统一AI规则；
2. 由具备AI领域最新科学或技术知识的独立专家组成的科学小组（Scientific Panel of Independent Experts）以支持欧盟统一AI规则的执行活动；
3. 由成员国代表组成，欧洲数据保护监督员（European Data Protection Supervisor）作为观察员参与的人工智能委员会（European Artificial Intelligence Board），为欧盟委员会和成员国在一致有效应用法案方面提供建议和协助；
4. 由利益相关方组成的咨询论坛（Advisory Forum ），向人工智能委员会和欧盟委员会提供专业技术知识。

具体如下表所示。

表1 欧盟AI治理架构示意表

序号	组成	名称	职责
1	人工智能办公室	欧盟委员会内设机构	执行欧盟统一AI规则
2	科学小组	由具备AI领域最新科学或技术知识的独立专家组成	支持欧盟统一AI规则的执行活动
3	人工智能委员会	由成员国代表组成，欧洲数据保护监督员作为观察员参与	为欧盟委员会和成员国在一致有效应用法案方面提供建议和协助
4	咨询论坛	由利益相关方组成	向人工智能委员会和欧盟委员会提供专业技术知识

（六）行政处罚 

法案赋予成员国制定适用于经营者违反法案行为的处罚规则和其他执行措施的权利。上述处罚规则和其他执行措施可以包括警告和非罚款措施。成员国应采取一切必要的措施确保这些规则和措施得到适当和有效的执行。违规公司将承担前一个财年全球年营业额的百分比或预定的金额中以较高者为准的罚款。中小企业和初创企业将承担合乎比例性的行政罚款。欧洲数据保护监督员可对法案范围内的联盟机构、机关和团体处以行政罚款。

欧盟《人工智能法案》生效在即，虽然其具体规定全面适用仍有较久的时间，但因其适用范围较广，且对相关企业创设了较高的合规义务，企业应尽快深入了解该法案的影响及含义，评估自身是否落入该法案的适用范围，例如，包括是否正在使用或开发可应用于欧盟地区的人工智能系统，或存在第三方供应商提供此类系统。尽快将相关系统进行模型化管理，准备下一步结合该法案内容进行合规性评估、整治以及可持续性治理的实质措施。

注释（上下滑动阅览）

【1】Council of the EU, “Artificial intelligence (AI) act: Council gives final green light to the first worldwide rules on AI”, https://www.consilium./en/press/press-releases/2024/05/21/artificial-intelligence-ai-act-council-gives-final-green-light-to-the-first-worldwide-rules-on-ai/

【2】REGULATION OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act)

【3】Mathieu Michel, Belgian secretary of state for digitisation, administrative simplification, privacy protection, and the building regulation

【4】ibid. [2]. Article 2.1

【5】ibid. [2]. Article 2.1 (a)-(g)

【6】Council of the EU,“Artificial Intelligence Act: Council calls for promoting safe AI that respects fundamental rights”，https://www.consilium./en/press/press-releases/2022/12/06/artificial-intelligence-act-council-calls-for-promoting-safe-ai-that-respects-fundamental-rights/

【7】ibid. [2] Article 113, (a)-(c)

张鹏专栏文章（节选）

SPECIAL COLUMN

张鹏 靳雨萱 | 如何界定AIGC使用他人作品的合理使用边界？——以美国联邦最高法院Goldsmith案为起点

张鹏等 | 人工智能能否具有发明人身份？——各法域的讨论及对我国的启示

张鹏 靳雨萱 | 人工智能生成物著作权保护中的作者与作品间耦合关系初探——以“AI生成图片著作权侵权第一案”为讨论起点

张鹏等 | 英国人工智能创新专利保护的最新进展及与其他法域的比较

张鹏 王佳音 | 《禁止滥用知识产权排除、限制竞争行为规定》探析：知识产权拒绝交易行为认定中的必需设施理论引入与摒弃

张鹏 吴凡 | 利用知识产权形成的轴辐协议的认定与规制

张鹏 杜旭 |《禁止滥用知识产权排除、限制竞争行为规定》探析：知识产权反垄断中相关市场的界定与“创新（研发）市场”的摒弃

张鹏 常静雯 |《禁止滥用知识产权排除、限制竞争行为规定》探析：不公平高价知识产权许可的认定与规制

《2022年芯片与科学法案》的分析与应对：从知识产权角度看对芯片产业的影响以及芯片产业如何应对

知识产权领域反垄断规则动向探析：创新市场的引入

作者：张鹏 牟雨菲 郭婷婷