|
解读我国算法监管模式要点  作者/ 云亭数据情资合规工作组 2023年被称为人工智能大模型元年，2024年国内大模型产品数量不断增加。以ChatGPT为代表的一众人工智能大模型给世人带来的无数惊叹和震撼，让我们惊觉人类/人工智能地位转换的奇点是否已经迫近。人工智能产品迅速融入人类活动的方方面面，从军事运用到交通运输、医疗科研、商业金融，再广泛渗透到普通人的日常信息服务。在人工智能给我们带来便利的同时，也不得不正视技术发展的潜在风险，完善对人工智能的规范和引导迫在眉睫。 一 我国算法监管的发展沿革 2021年9月17日，国家互联网信息办公室（下称“国家网信办”）等九部门联合发布了《关于加强互联网信息服务算法综合治理的指导意见》（下称《指导意见》），《指导意见》提出，用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。《指导意见》的出台，明确了算法监管的目标、手段和责任主体，勾划了算法监管的体系框架。 2021年12月31日，国家网信办等四部门联合发布了《互联网信息服务算法推荐管理规定》（下称《算法管理规定》），是我国出台的第一部专门以算法为调整对象的部门规章，创造性地界定了生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等五类算法，以法律文件形式区分了不同类型的算法技术，为有效实施监管奠定了基础。规定还明晰地构建了算法监管的机制，确定了算法服务的监管部门和算法服务提供者义务，更为重要的是还明确了算法备案的主体和程序要求，为算法备案的落地实施创造了充分的条件。 2022年11月25日，国家网信办、工信部、公安部联合发布了《互联网信息服务深度合成管理规定》（下称《深度合成规定》），专门针对深度合成服务（及深度合成技术的基础-生成合成类算法）划定了红线，并强调了具有舆论属性或者社会动员能力深度合成服务提供者的备案义务。 2023年7月10日，国家网信办联合发改委、公安部等九部门发布了《生成式人工智能服务管理暂行办法》（下称《人工智能管理办法》），继续不厌其烦地重申具有舆论属性或者社会动员能力的生成式人工智能服务，应当开展安全评估、履行算法备案义务。 鉴于《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》对“具有舆论属性或者社会动员能力”的定义相当宽泛，而算法的产品样态通常会嵌入其他垂直领域的网络产品/服务，利用算法服务或提供算法技术的主体具有极大可能性要进行算法备案。 二 算法监管的目标 （二）推动算法公开透明 规范企业算法应用行为，保护网民合理权益，秉持公平、公正原则，促进算法公开透明。督促企业及时、合理、有效地公开算法基本原理、优化目标、决策标准等信息，做好算法结果解释，畅通投诉通道，消除社会疑虑，推动算法健康发展。 （三）鼓励算法创新发展 提升算法创新能力，积极开展算法研发工作，支持算法与社会、经济各领域深度结合。提高算法自主可控能力，加强知识产权保护，提高自研算法产品的推广和使用，增强算法核心竞争力。 （四）防范算法滥用风险 维护网络空间传播秩序、市场秩序和社会秩序，防止利用算法干扰社会舆论、打压竞争对手、侵害网民权益等行为，防范算法滥用带来意识形态、经济发展和社会管理等方面的风险隐患。 三 算法监管关系的主体 我国的算法监管，存在着多元主体的分布特征，不仅包含行政职能机关和算法服务企业，还纳入了多种社会组织和个体，形成各类主体广泛参与的监管样态。《指导意见》专门提到“进一步明确政府、企业、行业组织和网民在算法安全治理中的权利、义务和责任，科学合理布局治理组织结构，规范运作、相互衔接，打造形成政府监管、企业履责、行业自律、社会监督的算法安全多元共治局面。” （一）监管方 《指导意见》中提到“网信部门会同宣传、教育、科技、工信、公安、文化和旅游、市场监管、广电等部门，建立部门协同联动长效机制，履行监管职责，共同开展算法安全治理工作。”《算法管理规定》第三条规定“国家网信部门负责统筹协调全国算法推荐服务治理和相关监督管理工作。国务院电信、公安、市场监管等有关部门依据各自职责负责算法推荐服务监督管理工作。地方网信部门负责统筹协调本行政区域内的算法推荐服务治理和相关监督管理工作。地方电信、公安、市场监管等有关部门依据各自职责负责本行政区域内的算法推荐服务监督管理工作。”我国算法监管模式下，监管方体现为以网信部门牵头和组织，电信、公安、宣传、工信、市场监管等行政职能部门各管一方、各司其职的特征。 （二）监管相对方 《指导意见》提出“企业应建立算法安全责任制度和科技伦理审查制度，健全算法安全管理组织机构，加强风险防控和隐患排查治理，提升应对算法安全突发事件的能力和水平。企业应强化责任意识，对算法应用产生的结果负主体责任。”这一描述有着宏观政策文件的概括性特征，对企业的算法相关义务作出了指导性安排。依此规定，所有企业都是算法监管的行政相对方，难免与现实有所出入。算法监管的实践中，更主要的还是依照《算法管理规定》，将算法服务提供方作为主要的监管相对方。算法服务提供方在算法安全保障、技术管理、用户权益保护方面均须承担一系列义务，对应诸多行政责任乃至刑事责任。凡是面向用户，直接利用算法提供信息服务/产品的主体，都被纳入监管。除此之外，在算法备案的实操过程中，包括算法技术开发公司、具备用户画像分析和决策功能的客户管理商、SaaS服务商等算法服务技术支持者，一旦涉及到算法服务舆论功能和社会动员能力，也应履行算法备案义务。 （三）其他利益相关方 四 算法监管的方式和手段 《指导意见》勾勒了我国算法监管体系的框架，规定了算法备案、算法监督检查、算法风险监测、算法安全评估等算法监管举措。《算法管理规定》《深度合成规定》《人工智能管理办法》等规范性文件将上述设想逐步落实。算法备案是算法安全监管的抓手和基石；算法监督检查和算法风险监测相辅相成、互为补充，检查是现场监测，监测是线上检查；算法安全评估是出口，是算法安全监管的落脚点。 （一）算法备案 《指导意见》提出建立算法备案制度，梳理算法备案基本情况，健全算法分级分类体系，明确算法备案范围，有序开展备案工作。积极做好备案指导帮助，主动公布备案情况，接受社会监督。《算法管理规定》落实了《指导意见》的建议，要求具有舆论属性或者社会动员能力的算法推荐服务提供者通过互联网信息服务算法备案系统履行算法备案手续，并在其对外提供服务的网站、应用程序等的显著位置标明其备案编号。算法备案是算法监管的最重要举措，为监管部门了解算法运行机制并和算法服务提供者建立实质联系提供了有力抓手。备案信息涵盖算法推荐服务提供者的主体信息、算法服务的基本原理、目的意图和主要运行机制，包括算法所使用的数据描述、基础模型、应用场景、服务形式、人工干预等，保证了备案信息的完整性和真实性。在产品和服务备案阶段，区分了生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类，更精准有效的推进算法备案工作的实施。 2022年3月1日，互联网信息服务算法备案系统（https://beian.）正式上线运行，标志着算法备案进入实施阶段。备案主体可通过官网在线填报备案信息、查看备案状态，普通用户可以通过官网查询备案信息。 （二）算法检查监督 《算法管理规定》赋予网信、电信、公安、市场监管等有关部门对算法推荐服务开展监督检查的职责，并有权对发现的问题提出整改意见并限期整改。算法监督检查以事中监测的方式发现算法使用过程中的安全风险及算法滥用带来的算法乱象。通过监督检查督促企业提高算法安全风险意识，防范和排除潜在的算法安全风险、落实算法安全主体责任、完善相关管理制度和技术措施、配备算法安全必需的专业人员。 （三）算法风险监测 算法风险监测包括算法服务提供方内部开展的算法风险监测、公众监督、监管部门巡查等多个方面。算法风险监测应聚焦于对算法的数据使用、应用场景、影响效果等开展日常监测，感知算法应用带来的网络传播趋势、市场规则变化、网民行为等信息，预警算法应用可能产生的不规范、不公平、不公正等隐患，发现算法应用安全问题。 （四）算法安全评估 五 总结 我国在算法监管中制定了一系列的政策和法律文件，初步形成了一套张弛有度算法监管框架，但依然面临诸多待改进的问题，诸如监管规则体系性缺乏，待提升监管目标聚焦，避免监管主体的多头竞争，防止产生监管重叠或监控缝隙，监管对象倾向于市场主体，公共主体的算法责任不足。 此外，现阶段参与监管的主体过于集中，片面强调平台问责，覆盖多方利益相关者的责任机制不够完善等现象也有出现。监管手段上以行政措施为主，对技术监管措施重视不够，其结果是过于依赖通过算法备案获得主体信息和技术信息，其他监管手段极少被触发，反而凸显了算法备案的极端重要性。 律师简介 邓一锋 律师 北京云亭律师事务所合伙人 |
|
|
