|
2020年12月10日-11日，中国人工智能知识产权峰会在上海召开，大会吸引了270余位人工智能IP人参加，为海内外人工智能知识产权机构及从业人员提供了高价值的信息交流平台。 会议主要围绕现有制度体系下如何最大化保护人工智能知识产权，企业商业秘密、著作权、数据保护与合规、专利的保护策略与挑战、人工智能产业标准化与专利池建设、出口管制政策与应对、开源软件、专利运营成果转化等前沿问题，同时就人工智能对知识产权制度带来的冲击、人工智能产业各参与主体的法律诉求、全球主要国家及地区人工智能领域知识产权政策的发展进行深入讨论。 12月10日，全国信标委人工智能分技术委员会秘书长董建为大家介绍了“全球人工智能标准化的建设与进展”的整体情况：一是人工智能技能产业发展情况，二是国内外人工智能标准化工作，三是人工智能标准化发展的下一步工作考虑。
“知产前沿”将董建秘书长的演讲要点整理成文以飨读者，仅供参考学习。
自1965年以来，人工智能的发展经历了几次波峰波谷，2010年后因深度学习算法的突破以及数据、算力等等的改进，形成了新的增长爆发期。目前在制造、交通、安防、电力、金融等等领域也有了比较好的应用，比如在主要技术上应用包括图像分类、目标检测、图像分割等等。
从人工智能发展的历程以及目前发展的现状出发，董秘书长对人工智能产业的发展趋势进行了进一步的分析，他提出，从技术发展趋势来看，人工智能的智能芯片下一步将向定制化的智能芯片、类脑芯片等方向发展；开源平台也将通过扩大相关技术规模、整合技术和应用，成为布局人工智能产业链重要的手段和工具；而智能认知水平将随着类脑技术的发展，终将向认知智能时代迈进。从产业发展趋势来看，智能服务将实现线下与线上的无缝结合；智能化应用则将逐渐从单一向复杂发展；应用范围将从传统IT领域扩展到传统行业，但下一步能否突破成通用的人工智能，依然面临着很大挑战。
人工智能工作起源于上世纪，大概在2000年，在国际标准里对人工智能术语进行了相关定义，届时将人工智能定义为交叉学科，通常理解为计算机学科的分支，研究出人类智能相关的各种功能的模型和系统。也可以看到专家系统、人工神经网络、基于模式的专家系统、机器学习/自动学习成为当时技术产业研究的热点，并在国际标准里对相关的词条进行了介绍。目前在最新的人工智能标准化梳理里，将人工智能从系统集和工程学科两个纬度进行了界定，通过对比前后两个术语的不同，可以发现，现在更多是将人工智能<系统级>界定为通过工程化设计并制造的系统，获取、处理、应用和表示知识的能力。除内涵界定的变化外，对通用人工智能、狭义的人工智能等也进行了相关研究，促进了人工智能标准化的发展。
此外，在目前最新的国际标准里面，也对人工智能相关系统包括生成周期、系统功能、应用等进行了介绍。还从人工智能生态系统的角度，对AI涉及的相关数据及相关的支撑技术（比如说云等）进行了明确的界定，规定了人工智能生态系统的概念。
在标准化的政策制定方面，国内外的重视程度都很高。以美国为例，专门发布了《国家人工智能研究与发展策略规划》，对标准提出了重点任务和工作，强调人工智能工具的性能和可信度相关标准；欧盟也推进了许多AI相关标准的规划，注重AI道德伦理等方面的研究；法国也出台了相关战略，强调人工智能领域工业标准化的体系建设。日本除了在机器人领域具有很强的标准化基础和实力外，也在人工智能AI社会原则等方面出台了相关政策文件。我国则在2017年印发了《新一代人工智能发展规划》，强调了标准体系的重要性，另外在同年工信部印发的《促进新一代人工智能产业发展三年行动计划》里对标准化的工作提出了相关要求，明确要建设人工智能产业标 准规范体系，同时构建人工智能产品评估评测体系
董秘书长提出，我们认为可以从四个方面考虑：首先可在一定程度上加快创新推广，比如一些比较新的自动驾驶、无人配送系统等技术发展迅速，但是和规模化、商业化仍有差距，需要用标准化固化相关的研究成果，加快技术推广；其次是可提升产品服务的质量，比如之前遇到的特斯拉自动驾驶车祸、计算机视觉处理、数据集训练质量等问题，都可通过研制相关标准，组织开展符合性评估等措施提升产品质量；再者是可以保护用户安全，比如可以通过制定相关的安全标准和规范，确保智能系统遵从并服务于人类的相关伦理；另外是在营造开放生态方面，标准化也具有很强的作用，比如行业巨头通常以绑定平台的方式，打造自有的生态体系，以标准化的形式实现不同厂商之间互联互通，促进产业的健康发展。
在国际上，国际标准组织的主要工作聚焦在信息技术领域，前期在人工智能术语、人机交互、生物特征识别、图像处理等关键技术领域，以及云计算、大数据、物联网等人工智能支撑技术领域，均已开展了相关标准化工作。而且随着人工智能技术的发展，还专门成立了JTC 1/SC 42人工智能分技术委员会来推进这项工作，第一次会议是于2018年4月在中国召开的，目前已经开了6次相关全会，中国专家担任ISO/IEC JTC 1/SC 42/WG 5召集人和秘书职位。
从内容上来看，目前主要有5个工作组和1个联合工作组来推进人工智能具体相关标准的研制。其中WG1基础工作组主要聚焦在人工智能概念、术语、参考框架以及人工智能管理系统等基础性的标准研制方面；WG3大数据工作组，主要负责做大数据术语、参考框架等相关标准的研制工作；可信赖工作组则聚焦于人工智能的可信度、鲁棒性、风险管理等方面国际标准的研制（实际上人工智能深度学习算法作为黑盒子，相关的可解释性、鲁棒性等等，也是目前学术界和产业界比较关心的重点工作）；WG4用例和应用工作组、WG5计算方法和AI系统特征组以及JWG人工智能治理联合工作组，目前在推进系统计算方法的概述，机器学习、模型分类性能评估以及知识工程，即知识图谱相关标准的研制工作；此外，IC42与IC7还联合成立了人工智能治理联合工作组，开展人工智能治理方面的研究工作
董秘书展示了一幅人工智能国家标准分类图，他解释道，左边是业务纬度，上边是技术纬度，通过此图可以看到，目前整个国际标准主要强调的有术语定义、参考框架以及相关的通用要求，以及数据和模型等内容
4.人工智能用例分析--基于ISO/IEC 24030
在人工智能用例方面，国际上推进了ISO/IEC24030国际标准，对不同国家提交的132个（涉及24个领域，依托6种模型）人工智能用例进行了梳理研究，可以看到目前比较受关注的案例主要是健康、ICT、制造业等方面。
董秘书通过几组图向我们展示了国际人工智能标准化的工作现状：董秘书介绍道，国际标准在API等方面没有过多的考虑,主要是在基础标准和行为约束要求层面进行普及。基础标准主要解决通用型的概念问题，应用行为约束标准则包括鲁棒性评估、风险管理的要求、安全框架的要求等。一个国家或地区采用可能会采用这种标准作为一个市场或行业准入的相关要求规范，这其中很多性能，比如说API标准，则可能是由开源技术或者行业事实的规范来解决。
（2）IEC SEG10自主与人工智能应用伦理系统评估组、电气和电子工程协会及其他国家标准化组织
2018年10月，IEC/SMB批准成立IEC/SEG 10,主要职责在于用标准化手段支持解决IEC全域技术领域伦理与社会关切问题，广泛开展IEC全域技术领域自主及A应用伦理的应用指导，形成全球指南文件，并通过案例学习方法，声明各类伦理和社会关切对应用的影响。下设WG1基础组和WG2用例组两个组，分别在人工智能伦理算法和框架应用指南、医疗领域方面推进相关工作。除了以上组织外，ISO主要在工业机器人（TC 299）、智能金融（TC 68）、智能驾驶（TC 22）方面开展人工智能在 特定领域的标准化研究；ITU在人工智能国际标准制定方面，主要聚焦在多媒体应用， 医疗以及电信领域的融合方面进行探索和布局；NIST则关注于政府如何制定人工智能技术和道德标准的指导意见。
国内的人工智能标准化的工作，主要由两个组织来推进，一个是国家人工智能标准化总体组、专家咨询组，这一组织是由国标委指导成立，主要负责统筹国内人工智能标准化的规划体系，协调相关国家标准的技术规口工作。我国具体的标准研制工作由全国信息技术标准化技术委员会负责，且在全国信息技术标准化技术委员会下对口国际的IC42组织成立了人工智能分技术委员会，同时推进相关标准的研究工作
全国信标委计算机图形图像处理及环境数据表示分委会（TC28/SC24）、全国信标委用户界面分委会（TC28/SC35）也在开展了人工智能标准化的智能研究，主要是集中在云计算、大数据、计算机视觉、生物特征识别等方面。除此之外，自动化系统与集成标准化技术委员会等也开展了一些行业领域以及一些支撑技术的标准研究工作。
在顶层规划方面，五部委今年印发了《国家新一代人工智能标准体系建设指南》，对人工智能标准的相关工作计划或者任务进行了梳理。计划到2021年，明确人工智能标准化顶层设计，到2023年初步建立人工智能标准体系。
新一代人工智能标准体系基本已经简称，涵盖基础性标准、支撑技术与产品标准、基础软硬件平台标准、关键通用技术标准、关键领域技术标准、产品与服务标准、行业应用标准、安全/伦理标准。整个体系覆盖范围已相对全面，这其中也有一些相关的工作重点，比如基础性标准、安全/伦理标准以及软硬件平台、关键通用技术、关键领域技术标准等。
我国注重国家标准与团体标准的建设，目前已立项了五项人工智能的国家标准，包括：《信息技术人工智能术语》、《信息技术人工智能平台资源供给》、《信息技术人工智能知识图谱技术框架》、《信息技术神经网络表示与模型压缩第1部分：卷积神经网络》、《人工智能 面向机器学习的数据标注规程》，另外三项也在推进立项的过程中。另外在推进国家标准研制的同时，不同的行业组织也在推进人工智能团体标准的研制，在这个过程中若有比较好的团体标准，也可根据相关的标准程序和规则，推动成为行业标准或者国家标准。
目前我国正在推进的重点标准有《人工智能风险评估模型》、《信息技术人工智能服务器系统性能测试规范》、《信息技术人工智能平台计算资源供给》。《人工智能风险评估模型》的标准，主要是规定人工智能领域产品的风险评估模型，包括风险能力等级、风险要素、风险能力要求等，同时也适用于指导人工智能产品开发方、用户方以及第三方等组织，对于人工智能产品风险开展评估，此标准主要是站在用户的视角对怎么防范人工智能的风险进行相关标准化的规定，以解决因机器学习、深度学习模型的不可解释性而导致的用户在应用人工智能产品和系统过程中的一些顾虑；《信息技术人工智能服务器系统性能测试规范》规定了人工智能服务器性能的测试方法，主要解决对AI系统的性能评价目前并不深入，且存在同质化等情况的问题；《信息技术人工智能平台计算资源供给》则对人工智能的平台资源层的架构和能力提出了标准化的要求，主要涉及的是人工智能面向机器学习的系统框架和供应要求。
董秘书首先对人工智能标准化工作可能面临的挑战进行了分析，现阶段，人工智能的标准化工作虽然也在稳步推进过程中，但也面临很多挑战，主要集中在5个方面：一是业界对人工智能的概念、内涵、应用模式、智能化水平等尚难达成共识；二是人工智能技术涉及的领域比较多，还涉及到不同的标准化技术委员会，需要加强顶层设计，避免标准化的交叉；三是行业巨头挣加快谋篇布局，我国在人工智能领域创新能力有待进一步提升，机器学习、自然语言处理等标准化工作需要国内技术研发机构和产业的有力支撑；四是人工智能各类技术在不同领域的应用，涉及到不同的部门领域、厂商，工作的协调难度很大；五是相关伦理道德、安全规范往往滞后于技术发展，将引发更多的分歧和争议，对标准制工作将带来新的挑战。2.AI开源技术落地面临的三个问题及人工智能标准与开源的关系
另外，董秘书长还提出，提到人工智能的技术，有一个不能忽略的问题，就是AI开源技术。前期我们对AI开源技术进行了调研，分析出目前AI开源技术落地存在三个方面的挑战。第一个是算法问题，比如说它的算法应用的门槛等各方面比较高、开源的软件本身也存在一定的技术漏洞，存在不可解释性风险；第二是数据支持问题，目前AI的模型离不开数据的支撑，开源数据集的维护包括质量不高、无质量衡量标准等问题，存在比较大的挑战；第三是基础设施问题，现在AI的开源软件、实验环境都是比较小的集群，对于大规模分布式的环境支持存在不足。
董秘书长还提出，人工智能标准化与开源也存在一定联动的关系，结论是开源作为技术创新的重要方式，可以集中促进产业内的协同开发，加速技术演进；标准是对行业方案的能力要求、评测规范、互联互通格式等进行约定，确保一致性和落地的质量。开源更聚焦在技术创新，标准更面向如何帮助用户选型，是相互互补的关系。
人工智能还面临的一大挑战是伦理问题的挑战，董秘书长对此举了四个例子，比如说自动驾驶出现事故之后责权的界定，谁来担责任、责任又该如何界定；智能军事缺乏人类控制，在舆论方面受到广泛关注；波音坠机事故中机器的权限与驾驶员的边界在哪里；另外在智能搜索行业存在的类似大数据杀熟的现象该如何应对……等等，这些问题都对人工智能的发展提出了一定的挑战。
针对以上情况，董秘书梳理出了人工智能在发展过程中应该遵循的相关原则，主要是两个：首先是以人民根本利益为原则，另外的是强调责任的原则。也就是说，人工智能应以实现人类根本利益为终极目标，而在人工智能相关的基础开发和应用方面，应该明确责任体系，具体可以在算法、数据、社会影响等方面建立人工智能的伦理风险、评估指标。比如算法方面的透明度、可解释性、隐私保护的充分性、敏感信息处理的审慎性，社会影响则是要强调向善性和普遍性。另外在行业实践指南方面，需强调要重视事前的控制，将动态风险防控意识贯穿始终，明确相关的责任分配，同时根据风险严重程度采取不同的应对措施。
最后，董秘书长将下一步工作重点聚焦到以下几个方面：一是推动重点标准研制，做好技术和标准的衔接。推动人工智能术语、算法模型、知识图谱、平台、智能语音、智能翻译、计算机视觉、可信赖、风险管理、 智能服务等重点标准研制工作，做好人工智能技术和标准的衔接。二是推动技术栈发展，做好标准化的支撑工作。围绕人工智能上下游软硬件适配开展标准化研究，加强上下游人工智能产品互联互通、有效集成。三是、加强国际标准化工作，加大我国参与力度。加大在国际标准化方面的投入力量，支持我国相关专家积极参与并贡献，加强我国在人工智能国际标准化的实力。董秘书长详细介绍了人工智能技能产业发展情况与国内外相关标准化工作的整体情况，并分析了人工智能工作标准化面临的挑战，指出了在人工智能发展过程中要遵循的原则和下一步工作需要考虑的问题，对进一步有序推进人工智能标准化工作的发展具有重要意义。
（www.ipforefront.com）
（www.MedDeviceIP.com）
|
