【患者安全】WHO 医疗保健领域人工智能全球报告及六项指导原则

WHO issues first global report on Artificial Intelligence (AI) in health and six guiding principles for its design and use

人工智能在卫生领域的日益使用给政府、提供者和社区带来了机遇和挑战

编译自：2021 年 6 月 28 日 世界卫生组织

       根据今天发布的世卫组织新指南，人工智能(AI)在改善全球医疗保健和医学服务方面有着巨大的前景，但前提是将道德和人权置于其设计、部署和使用的核心位置。

       这份题为“人工智能促进健康的伦理和治理”(Ethics and governance of artificial intelligence for health)的报告是由世卫组织任命的国际专家小组经过 2 年磋商的结果。

       “与所有新技术一样，人工智能在改善全世界数百万人的健康方面具有巨大潜力，但与所有技术一样，它也可能被滥用并造成伤害，”世卫组织总干事谭德塞博士说。“这份重要的新报告为各国如何最大限度地发挥人工智能的好处，同时最大限度地减少其风险和避免其陷阱提供了宝贵的指导。”

      人工智能可以, 且在一些富裕国家已经被用于提高疾病诊断和筛查的速度和准确性；协助临床照护；加强卫生研究和药物开发，支持多种公共卫生干预措施，例如疾病监测、疫情应对和卫生系统管理。

      人工智能还可以让患者更好地控制自己的医疗保健，并更好地了解他们不断变化的需求。它还可以使资源贫乏的国家和农村社区，在那里患者往往难以获得卫生保健工作者或医疗专业人员，弥合获得卫生服务方面的差距。

       然而，世卫组织的新报告告诫不要高估人工智能对健康的好处，尤其是当这种情况以实现全民健康覆盖所需的核心投资和战略为代价时。

       报告还指出，机遇与挑战和风险并存，包括不道德地收集和使用卫生数据; 算法中的偏误，以及人工智能对患者安全、网络安全和环境的风险。 

       例如，尽管私人和公共部门在人工智能开发和部署方面的投资至关重要，但不受监管地使用人工智能可能会使患者和社区的权益屈服于科技公司强大的商业利益或政府在监督和社会控制方面的利益。

      该报告还强调，主要以高收入国家个体收集的数据为基础的系统可能不适用于低收入和中等收入国家的个体。

       因此，人工智能系统应经过精心设计，以反映社会经济和医疗保健环境的多样性。应同时进行数字技能、社区参与和提高认识方面的培训，特别是对数百万卫生保健工作者，如果他们的角色和功能是自动化的，他们将需要数字识字或再培训，他们还必须与可能挑战医护人员和病人决策和自主权的机器作斗争。

      最终，在现有法律和人权义务以及体现道德原则的新法律和政策的指导下，政府、供应商和设计者必须共同努力解决人工智能技术设计、开发和部署每个阶段的道德和人权问题. 

 

六项原则  确保人工智能为所有国家的公共利益服务

      为限制利用人工智能促进健康所固有的风险和最大限度地利用人工智能带来的机会，世卫组织提出了以下原则，作为人工智能监管和治理的基础:

1. 保护人类自主权（Protecting human autonomy）：在医疗保健方面，这意味着人类应该继续控制医疗保健系统和医疗决策；应保护隐私和机密性，患者必须通过适当的法律框架给予有效的知情同意，以保护数据。
2. 促进人类福祉和安全以及公共利益（Promoting human well-being and safety and the public interest.）。人工智能技术的设计者应满足明确定义的用例或适应症的安全性、准确性和有效性的监管要求。必须提供实践中的质量控制措施和人工智能使用中的质量改进措施。
3. 确保透明度、可解释性和可理解性(Ensuring transparency, explainability and intelligibility)。透明度要求在设计或部署人工智能技术之前发布或记录足够的信息。此类信息必须易于获取，并有助于就技术的设计方式以及应该或不应该如何使用技术进行有意义的公众咨询和辩论。
4. 培养责任感和问责制( Fostering responsibility and accountability)。尽管人工智能技术执行特定任务，但利益相关者有责任确保在适当的条件下并由经过适当培训的人员使用它们。对于因基于算法的决定而受到不利影响的个人和团体，应提供有效的询问和补救机制。
5. 确保包容性和公平性(Ensuring inclusiveness and equity）。包容性要求健康人工智能旨在鼓励尽可能广泛的公平使用和获取，而不论年龄、性别、性别、收入、种族、民族、性取向、能力或受人权法保护的其他特征。
6. 促进具有响应性和可持续性的人工智能 (Promoting AI that is responsive and sustainable）。设计者、开发者和用户应在实际使用过程中持续、透明地评估人工智能应用程序，以确定人工智能是否充分、适当地响应期望和要求。人工智能系统的设计还应尽量减少对环境的影响并提高能源效率。政府和公司应解决工作场所的预期中断问题，包括培训医护人员以适应人工智能系统的使用，以及因使用自动化系统而导致的潜在失业。         
   

        这些原则将指导世卫组织未来的工作，以支持努力确保人工智能在医疗保健和公共卫生方面的全部潜力被用于造福所有人。

【原文】

https://www./news/item/28-06-2021-who-issues-first-global-report-on-ai-in-health-and-six-guiding-principles-for-its-design-and-use

编译：肖明朝 重庆医科大学附属第一医院