分享

如何解决AI长尾场景问题?商汤提出了自己的 “暴力美学”

2021-07-11  liuaqbb   |  转藏
   
场景向左,技术向右。

当AI有限场景已经经过一轮轰炸,初步落地,但大规模深入行业赋能令人踟蹰时,AI该走向哪?

商汤科技给出的答案是:AI 大装置!

在刚刚举行的世界人工智能大会(WAIC)上,商汤科技召开了 “大爱无疆・共生” 主题论坛,正式推出了其原创打造的新型人工智能基础设施 ——SenseCore 商汤 AI 大装置,集商汤内部算力、平台、算法能力为一体,化解 AI 应用落地中的 “长尾应用” 问题。

图片
图丨世界人工智能大会现场(来源:商汤科技)

商汤为什么要推出 “AI 大装置”?
图片

现阶段,AI 需要从海量数据中提取有效信息形成智能,再加上各行各业的场景,就更需要 “爆炸性” 的算力,对数据进行计算,在不断的碰撞中,就能得到最接近实际场景、细碎需求的结果。这也是商汤取名 “大装置” 而来的大规模的破坏性和创造力。
  
AI 大装置一方面是支撑商汤内部研究的基础,是过去几年,商汤在算力、算法、平台上的长期部署和打磨。一方面将基于项目化的 AI 开发,推进为基于装置的规模化落地,AI 大装置也为业内带来了范式转变。

“将 AI 技术赋能百业”
图片

2018 年商汤就提出将 “AI 赋能百业”,商汤也是 AI 公司中第一个提出要做大场景、通用平台的厂商,这一点也被后来的 AI 厂商们一一跟随。商汤还承建了智能视觉国家新一代人工智能开放创新平台。

此前,商汤就推出过城市开放平台、边缘 AI 能力中心产品、身份认证一体机等,提供从平台、软件到硬件的全栈技术服务。

商汤一直在审视算力、软件以及产业赋能间的关系,不断提高算力、平台、算法基础,提供可灵活配置、全套可规模化落地的方案。

AI 逐步落地场景,单一的算法无法实现全场景需求的覆盖,而从算法深入到框架,再拓展到底层人工智能平台,就为人工智能软硬件产业链和业内生态实现了延伸,为规模化场景落地提供了可能。

大开大合,商汤提供的从来就是基于全场景的基础设施零部件。

“AI 大装置”,算力、平台、算法层如何有效联动?
图片

到了 “AI 大装置”,商汤的这一切有了更清晰的说明,AI 集成能力进一步体现。

商汤的 AI 大装置由算力层、平台层、算法层三个部分组成,包含新型人工智能计算中心(Artificial Intelligence Data Center,AIDC)、深度学习训练框架(SenseParrots)、深度学习推理部署引擎(SensePPL),以及算法层等,形成了一个不断延长的工具链条。

算力层:新型人工智能计算中心 AIDC

平台层:数据平台
· 深度学习训练框架 SenseParrots

· 深度学习推理部署引擎 SensePPL

· 模型生产平台

算法层:创新算法模型以及算法开源计划 OpenMMLab


场景是无限的,但人的精力是有限的,那么如何在有限的情况下,实现对无限场景的扩充?答案是用 “无限” 的算力、模型及算法能力,进行匹敌。

作为 AI 通用基础设施的赋能者,商汤拿出此前的算力基础、数据平台、深度学习训练框架及开源算法,又着力打造了 AIDC 算力中心、开源框架,将整体打包成一个 “AI 全家桶”,也就是 “AI 大装置”。

这一套装置,实现了从算力到算法的能力集合,使行业场景提出后,能迅速实现从 “项目” 到 “落地” 的流程,快速产出更适应场景的解决方案。

在平台上,商汤建立了人工智能计算中心 AIDC,这一算力中心以商汤既有的强大算力为基础,整合 AI 芯片及 AI 传感器,支撑对海量数据和算法模型的分析、训练和推理。AIDC 已包含近两万块 GPU,能提供 3740 PFlops 算力。

这一上海临港在建的计算中心,也是目前亚洲最大的人工智能算力中心,能满足海量数据的高速调用,同时保证成本低廉,为通用场景的大模型算法提供支持。预计 2021 年底交付。

图片

图丨商汤科技新型人工智能计算中心 AIDC 效果图(来源:商汤科技)


那么商汤为何要自建算力中心?现有人工智能时代对于基础设施的要求,与十年前相比有很大区别。现有厂商提供的云服务,并不能满足未来 AI 大规模研发和规模化落地对算力和工具的需求。

商汤的算力打磨,能将大量高性能的服务器、利用高速的网络联结在一起,适应于大模型训练,打造 “新基建”,且已在内部稳定运行超过六年时间。

所以商汤打造这样一个存储和计算系统,能实现低成本的、高速的访问。基于大量真实场景的数据,实现几百上千数据集的随机访问。同时商汤现有的研究也都转移到了 AIDC 算力中心,为行业和自研提供双重支撑。

而在平台层上,除原有的训练框架 SenseParrots,商汤还新推出了推理框架。

训练和推理,是深度学习的一体两面,有了 “训练” 对大量数据进行碰撞、挖掘,再利用 “推理” 框架得到想要的结果,就能实现智能的精准达成。商汤则选择打造了自己的推理框架 SensePPL,并将其开源。

这一通用性、云端框架,能满足云端推理的需求,使大量繁杂的数据,在云端进行复杂计算并快速产出结果,支持多平台部署,满足实地的场景智能需求与业务部署。推理和训练相承接,完成了端到端的闭环。

SensePPL 还实现了 OpenPPL 开源计划,开源使推理框架的开放性更好,也更显示了商汤强势的基础实力。对于商汤来说,只有框架真正开源才能为更多开发者所使用,使框架从数据和业务中来、再回到中去,形成完整闭环。

这也是目前国内少数的开源推理框架,这一点上,商汤比肩的是英特尔和英伟达。同时,在面向视觉的多种模型中,SensePPL 的端到端推理性能实现了对它们的超越。 

在图像处理上,SensePPL 能快速支撑摄像和智能处理的需求,在毫秒级时间内响应,以自主研发的、极致优化的算子,提供端到端优异性能,充分发挥出芯片的能力。在数据管理、存储、调用上保持优秀,保证数据安全。

在更大的愿景上,商汤打造 AI 大装置还可以描述为:一是为支撑不同行业、突破现有技术生态;二是从提供企业级装置,到提供行业平台;三是在实际业务中打磨和迭代,为各形态芯片提供通道、实现算力成本下降。

商汤的 AI 大装置能力已经打磨成 “三层结构”:算力层处于最底层,通过近两万块 GPU 提供强大可调用的算力;平台层包括数据平台、算法训练框架和推理引擎,可以打造通用模型,方便部署于各种各样的终端设备;算法层则能基于各种丰富的创新算法工具为企业和行业赋能;不仅如此,商汤还通过 OpenMMLab 计划将领先的算法开源,在开源社区 GitHub 上有超过 37000 颗星。

这样就形成了一套可快速部署的 AI 大装置。强大的算力基础提供完善的硬件条件,为 AI 时代爆炸的大数据、大参数模型提供坚强支持,深度学习框架则将算力的实力发挥到最强,最适于通用场景的设计,能发挥出最大算力以及多种功能,开源模式更保证框架应用到多种设备中,完成从终端中来、到终端中去的闭环。算法工具箱和开源的框架,则将具体的 AI 能力快速赋能,快速适用于通用场景及长尾应用的适应化改造。

暴力计算解决大多数通用场景的问题,加上少数定制化场景的适配,就能有效完成大规模 AI 的部署、降低 AI 的边际成本。

“AI 大装置” 正将精耕自作式的打造,变成工厂流水线式的规模化落地。

商汤完成了自循环体系,形成了一个人工智能全流程技术栈,并且通过算力、平台、算法联动起来,为业内提供了完善的 AI 基础设施,也显示出在 “赋能百业” 愿景下的强大实力和气魄。

暴力计算下的 AI 场景
图片

而具体上,这套大装置是如何赋能的呢?

来看一个足够 “长尾” 的例子,比如我们人人都十分常见的电梯场景,和迅达联手,商汤能实现从事前预防、事中干预到事后追溯的全流程智能管理,让安全事故的主动预防成为可能。

基于商汤领先的物体检测、行为识别、密度分析等 AI 技术,可提供覆盖自动扶梯入口、扶梯区域和扶梯出口的全场景安全管理辅助:在入口处,系统可对乘客推婴儿车、大件行李和轮椅上梯等安全隐患行为进行语音劝阻;在自动扶梯区域,有乘客摔倒时系统可及时告警,对逆行等不安全行为进行实时提示。

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 全屏 打印 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多