自2015年以来,德勤一直与世界经济论坛(WEF)合作,共同探讨金融服务业变革的驱动力量。2019年德勤与WEF联合发布《智海领航:在金融服务领域使用 AI 进行负责任创新的路线图》报告,通过对五个广泛关注的领域来审视金融机构在应用人工智能中所面临的相关风险,并对如何减轻这些风险给出建议。德勤同时对此份报告进行了摘要《智海领航:洞悉人工智能在金融服务领域的战略及监管风险》,总结了报告全文的关键性信息,并着眼于金融机构在应用人工智能时需要考虑的一些重要事项。希望能对金融服务领域合理运用人工智能有所启示,并为企业在未来不确定性中平稳前行保驾护航。 能否顺利进入人工智能驱动时代,取决于是否具备以下能力: 合理部署现行人工智能系统。金融行业可能要采用新的治理方式,包括应对人工智能风险事件所采取的例如检测及预防等保障措施,风险发生时的补救机制和提供必要干预手段的流程。 合理扩大人工智能在未来金融系统中的应用。人工智能的应用正推动多个行业重新审视竞争政策、隐私权和运营弹性。这一过程中的共同关注点是数据。客户也逐渐意识到个人数据的价值。这将决定金融机构如何部署人工智能,以及采用何种战略。而潜在的影响不仅包括数据的应用,还包括市场参与者、适用的商业模式和法规等方面的变化。行业的领导者应当积极地参与相关决策,以确保相关政策能对金融机构产生正面的影响。 激发具备可靠人工智能技术的金融系统的潜力。审慎应用人工智能不仅可规避风险,还可以推动行业向善。消费者愈加关注其数据权利和数字主权,这导致科技巨头的优势被逐步削弱,而金融机构则有机会利用更高客户信任度这一优势,实现客户全新的价值主张。 金融领域运用人工智能的五大关注点:
人工智能的可解释性 随着深度学习及其他先进方法的出现,人工智能变得越来越复杂。不利于让人们理解人工智能生成决策的逻辑。这促使金融机构和监管机构寻求一个中间地带—介于对人工智能盲目信任(将导致极大风险)和对人工智能不屑一顾(将严重阻碍创新)之间。这种平衡关键在于向用户提供充足的人工智能系统的相关信息,使用户可以信任人工智能系统作出的决策。
换言之,可能需要向用户解释的原因有很多,并且每个原因相应都需要对底层技术采用相应的措施。 对高管的重要启示 系统性风险和人工智能 全新风险来源 如今,人工智能将再次推动金融市场进行转型。它广泛适用于金融服务行业的各个领域,能积极推动人与机器之间更加频繁的互动。同时,人工智能的黑匣子效应致使投资者更难解读不断变化的市场动态,也更难识别或洞悉新兴风险。上述情况可以通过以下方式增加整个系统的风险: 从众行为 算法竞争 信息真空 侵蚀现有防御措施 对高管的重要启示 歧视与公平 来自人的歧视。 人类思维的系统性错误会影响人们的决策和判断。这些歧视可能是有意或无意的。人工智能在系统设计和数据收集阶段可能会引入来自人的歧视。此外,监督式学习和模型应用也会将人类的歧视带入人工智能系统。 数据歧视。 若使用不准确、歪曲或其他歧视性数据进行决策系统的开发或训练,可能导致系统对特定人群产生扭曲的结果。模型歧视。计算能力、系统设计或编程逻辑方面的限制—更不必说用户造成的错误等,均会导致人工智能系统的输出结果存在歧视。模型歧视包括因果关系的混淆和对弱势群体的过度保护。 间接歧视。 不幸地是,教育、就业和法律诉讼等生活的方方面面目前均存在不公平的歧视。这显然增加了遭受歧视的个人可能面临的金融风险。与其他歧视不同,构建或使用给定模型的人不能直接控制间接歧视;为减少此类歧视,可能需要机构放弃一些对统计精确度的要求。这些间接歧视可能通过更具广度和深度的数据(包括来自第三方的数据),输入给人工智能。 对高管的重要启示 其他不确定性 就金融领域的人工智能而言,可解释性、系统性风险及歧视与公平是三大重点关注问题。此外,还有两大问题值得提及:一是人工智能系统能否履行受托义务,即始终以客户的最佳利益行事;二是与算法合谋相关,即人工智能系统学会从事反竞争行为。 对高管的重要启示 结语 人工智能涉及计算的全新形态。金融机构需克服人工智能在可解释性、系统性风险和公平等方面的挑战,进而从中受益。金融行业应:
人工智能并非孤立存在,已经与云和物联网(IoT)等技术紧密结合,量子计算、5G和其他新兴技术很快也将加入其中。在这一科技飞速发展的环境中,金融行业更加需要提前考虑人工智能的潜在影响。 人工智能的影响到底是什么?首先是战略上的转变。人工智能(及其他新兴技术)的普及正推动金融机构与监管层更频繁的对话,重点探讨如何对新技术进行有效的部署和应用。金融机构若想有效制定其未来战略,就应主动与所有利益相关者沟通。同样地,该方法也适用于应对监管政策变化对运营、战略和人力资本的影响。 其次是对优先级事项的重新梳理。对于人工智能的应用,其公司治理是首要工作——无论是为了应对风险预警,还是为了与客户的利益保持一致。重视公司治理不仅为金融机构提供实现差异化的契机,而且可以通过与监管机构和金融服务生态系统中的其他参与者建立协作文化来实现数据驱动的决策。 最后,我们大可不必针对人工智能在金融服务领域的应用而建立一套全新的道德标准。真正需要我们去做的,是以开放的态度拥抱适用于人工智能应用的新方法。需谨记,无论这些方法如何创新,我们都应以公正性、稳定性、透明度与可操作性四大标准予以权衡,并决定是否采纳。正是这套标准,使得金融行业能够在过往的技术变革浪潮中脱颖而出。 |
|