精华摘要|3张图了解《人工智能数据安全白皮书》

导读：人工智能作为引领新一轮科技革命和产业变革的战略性技术，已成为世界主要国家谋求新一轮国家科技竞争主导权的关键领域。随着政府人工智能战略布局的落地实施， 全球人工智能发展正进入技术创新迭代持续加速和融合应用拓展深化的新阶段，深刻改变着国家政治、 经济、 社会、国防等领域的运行模式，对人类生产活带来翻天覆地的变化。

数据作为驱动本轮人工智能浪潮全面兴起的三大基础要素之一数据安全风险已成为影响人工智能安全发展的关键因素。与此同时，人工智能应用也给数据安全带来严峻挑战如何应对人工智能场景下的数据安全风险日渐成为国际人工智能治理的重要议题。本文摘选《人工智能数据安全白皮书》中精华部分，供大家交流。

1

人工智能安全

当前，由人工智能引领的新一轮科技革命和产业变革方兴未艾，正在对经济发展、社会进步、国家治理等方面产生重大而深远的影响。世界主要国家和全球产业界高度重视并积极布局，人工智能迎来新的发展浪潮。然而，技术进步往往是一把“双刃剑”，《人工智能安全白皮书（2018年）》中提出人工智能因其技术的局限性和应用的广泛性，给网络安全、数据安全、算法安全和信息安全带来风险，并对国家政治、军事和社会安全带来诸多挑战。与此同时，人工智能因其突出的数据分析、知识提取、自主学习、智能决策等能力，可在网络防护、数据管理、信息审查、智能安防、金融风控、舆情监测等网络信息安全领域和社会公共安全领域有许多创新性应用。为有效管控人工智能安全风险并积极促进人工智能技术在安全领域应用，可从法规政策、标准规范、技术手段、安全评估、人才队伍、可控生态等方面构建人工智能安全管理体系

图1 人工智能安全体系架构图

2

人工智能与数据

人工智能与数据相辅相成、互促发展。一方面，海量优质数据助力人工智能发展。现阶段，以深度学习为代表的人工智能算法设计与优化需要以海量优质数据为驱动。另一方面，人工智能显著提升数据收集管理能力和数据挖掘利用水平。人工智能在人们日常生活和企业生产经营中大规模应用，获取、收集和分析更多用户和企业数据，促进人工智能语义分析、内容理解、模式识别等方面技术能力进一步优化，更好地实现对收集的海量数据进行快速分析和分类管理。而且，人工智能对看似毫不相关的海量数据进行深度挖掘分析，发现经济社会运行规律、用户心理和行为特征等新知识。基于新知识，人工智能进一步提升对未来的预测和对现实问题的实时决策能力，提升数据资源利用价值，优化企业经营决策、创新经济发展方式、完善社会治理体系。

3

人工智能数据安全

数据安全是人工智能安全的关键。数据成为本轮人工智能浪潮兴起发展的关键要素。人工智能算法设计与优化需要以海量优质数据资源为基础。数据质量和安全直接影响人工智能系统算法模型的准确性，进而威胁人工智能应用安全。与此同时，人工智能显著提升数据收集管理能力和数据价值挖掘利用水平。人工智能这些能力一旦被不当或恶意利用，不仅威胁个人隐私和企业资产安全，甚至影响社会稳定和国家安全。而且，人工智能、大数据与实体经济不断深度融合，成为推动数字经济和智能社会发展的关键要素。人工智能大规模应用间接促使数据权属问题、数据违规跨境等数据治理挑战进一步加剧。

人工智能为数据安全治理带来新机遇。人工智能驱动数据安全治理加速向自动化、智能化、高效化、精准化方向演进。人工智能自动学习和自主决策能力可有效缓解现有数据安全技术手段对专业人员分析判断的高度依赖，实现对动态变化数据安全风险的自动和智能监测防护。人工智能卓越的海量数据处理能力可有效弥补现有数据安全技术手段数据处理能力不足的缺陷，实现对大规模数据资产和数据活动的高效、精准管理和保护。人工智能赋能数据安全治理，助力数据大规模安全应用，将有力推动经济社会数字化转型升级。

基于以上分析，人工智能数据安全内涵包含：一是应对人工智能自身面临和应用导致及加剧的数据安全风险与治理挑战；二是促进人工智能在数据安全领域中的应用；三是构建人工智能数据安全治理体系，保障人工智能安全稳步发展。

4

人工智能数据安全体系架构

图 2 人工智能数据安全体系架构图

基于对人工智能数据安全内涵分析，项目组提出覆盖人工智能数据安全风险、人工智能数据安全应用、人工智能数据安全治理三个维度的人工智能数据安全体系架构。其中，人工智能数据安全风险是人工智能数据安全治理的起因, 包含人工智能自身面临的数据安全风险，人工智能应用导致的数据安全风险，人工智能应用加剧的数据治理挑战。人工智能数据安全应用是人工智能技术用于数据安全治理, 包含人工智能技术在精准化数据安全策略制定、自动化数据资产安全管理、智能化数据活动安全保护以及高效化数据安全事件管理方面的应用。人工智能数据安全治理是应对人工智能数据安全风险和促进人工智能数据安全应用的体系化方案, 包含国家战略、伦理规范、法律法规、监管政策、标准规范、技术手段、人才队伍等方面。

5

人工智能在数据安全治理中的应用

白皮书借鉴国内外主流数据安全治理框架并结合人工智能数据安全应用经验，将人工智能在数据安全治理领域的应用分为数据安全策略制定、数据资产安全管理、数据活动安全保护、数据安全事件管理四个阶段。人工智能技术可应用于数据安全治理的各个阶段，但主要是促进细分领域应用优化升级，距离体系化的智能数据安全治理还有很大差距。如图3所示，人工智能数据安全治理细分领域包括数据安全策略、数据分级分类、数据质量管理、数据本体安全保护、数据活动网络安全保护、数据流转行为分析、数据安全风险评估、不良信息治理、互联网反欺诈、打击数据黑产等。

图 3 人工智能在数据安全治理中的应用

数据安全策略制定

传统的策略制定过程中用来辅助决策的日志数据和警报数量巨大，决策者难以快速处理，因此传统方式主要依赖人的直觉和经验。人工智能技术具备海量数据采集和分析能力，可根据训练模型进行自我学习并做出相应的判断，使管理更精细、决策更智能，因此智能决策系统应用非常广泛。基于人工智能的决策系统能大大提高数据安全治理策略的时效性和合理性，在数据安全风险管理策略、数据合规性要求、分级保护策略的制定等方面辅助管理者快速、科学、合理地制定策略，为数据安全治理提供智能化的解决方案。

1

数据资产安全管理

1. 在数据分级分类方面，可以通过应用机器学习、模式聚类、自然语言处理、语义分析、图像识别等技术，提取数据文件核心信息，对数据按照内容进行梳理，生成标注样本，经过反复的样本训练与模型修正，可以实现对数据自动、精准的分级分类。

2. 数据质量管理方面，在开展数据质量核查过程中，人工智能技术与传统根据预置规则进行核查的方式相结合，可以仅针对少量核心核查规则，利用机器学习算法进行深度分析，定位数据质量原因、预测数据质量问题，形成知识库，进一步增强数据质量管理能力。

2

数据活动安全保护

1. 数据本体安全保护方面，包括数据脱敏、数据防泄漏、数据加密等。

   数据脱敏方面，在数据分级分类的基础上，结合数据合规性规则智能生成脱敏特征库，并与敏感数据识别智能关联，实现智能发现和自动脱敏，有效降低敏感数据泄露风险。

2. 数据活动网络安全保护方面，基于人工智能的网络安全防护手段相比传统基于静态规则的方法具有持续进化能力。

   新威胁的产生不断为训练集加入新的数据，通过人工智能算法和模型调优，可以快速查阅每个可疑文件数以百万计的特征，智能识别最轻微的代码冲突；

   对内外部网络流量中的元数据进行关联分析，实时检测异常流量；

   利用庞大的关联处理能力并行监测海量数据点，实时生成风险预测，发现并阻止设备或网络攻击。

3. 数据流转行为分析，通过自然语言处理、机器学习、聚类算法对采集的基础数据进行行为建模，多维度勾勒出用户行为特征，形成用户画像知识图谱，实现智能化用户行为分析。

   同样，通过人工智能技术也可以对数据传输行为进行智能统计和关联分析，绘制数据流转动态图谱，有利于跟踪敏感数据走向，分析数据安全态势。

4. 数据安全风险评估，经过训练后的神经网络算法能够解决具有相似特点的风险评估问题，通过对风险因素的学习，可以自动实现从输入到输出的复杂映射关系，对优劣性受多种因素综合影响的事物作出合理的综合评价，从而减少传统专家评估过程中主观分数的片面性影响。

3

数据安全事件管理

人工智能技术由于其普适性、自学习、高效性等特点能够在数据处理环节应对更加复杂的数据结构和数据环境，得出更加严谨和稳固的模型和推演结果，完成更自主的信息捕捉、更智慧的分析判断和更智能的服务。在数据安全事件管理中，利用人工智能技术对网络中的数据进行自动爬取和深度挖掘分析，能够提高网络中敏感数据、有害信息的自动发现和识别效率，实现数据安全事件智能监测和预警。结合用户行为画像和数据安全态势图谱，人工智能技术能够对数据安全事件的源头进行追溯，从而辅助管理部门采取相应措施实现快速处置，显著提升数据安全事件的管理水平。

4