分享

英伟达:现在即是AI技术的“iPhone时刻”

 AMP实验室 2023-03-22 发布于广东


真的我们这些臭打游戏的洗洗睡就得了

昨晚英伟达召开了GTC2023 Keynote演讲,CEO黄仁勋亲自担任主持人。黄仁勋宣布,现在就是AI技术的“iPhone时刻”。
  • 硬件

老黄在这次演讲上带来了H100全新GPU,H100 NVLINK,这款新H100 GPU启用了基本完全的94GB HBM显存堆栈。最大区别便在于,这是一款双GPU产品,在顶部使用了3个NV Link连接器进行互联,因此可以提供多达188GB显存,显存带宽也不止翻倍,每个GPU带宽提供3.9TB/s,而H100 SXM为3.35TB/s,H100 PCIe为2TB/s。
数据提到,H100 NVL综合性能可以达到H100 SXM的两倍:它的FP64算力高达134TFlops,TF32算力高达TFlops,FP8为7916TFlops,INT8为7916TFlops。
目前,ChatGPT还在使用的A100 DGX对比一台搭载一对H100 NVL服务器,后者能提供10倍的计算速度。
除了GPU,黄仁勋再次介绍自家基于ARM的专用CPU,Grace CPU。
Grace CPU专为数据中心设计,每个CPU包含了72个Arm Neoverse V2核心。而Grace Superchip将两颗Grace CPU在一块PCB上互联,通过NVLink-C2C技术,达到1TB/s的内存带宽。
老黄提到,在微服务方面,Grace的速度平均比x86最新一代的CPU速度快了1.3X,而在数据处理方面则快了1.2X,做到这一点,Grace仅需要后者的60%能耗。
  • AI加速光刻

英伟达联合台积电、ASML和Synopsys,历时4年完成了一项计算光刻技术的重大突破,也就是NVIDIA cuLitho计算光刻库。
在芯片设计和制造领域中,计算光刻是最大的计算工作负载,每年都要消耗数百亿 CPU 小时。相比之下,英伟达创造的这个新算法,可以让日益复杂的计算光刻工作流程能够在 GPU 上并行执行。
cuLitho是一个可以加速光刻基础计算的算法库,能够很大程度上提升光刻计算的速度,并且节省能耗。cuLitho可以将目前光刻技术的性能提升40倍,功耗降低至此前的1/9。现今台积电生产一片H100 GPU需要89块掩模版,如果使用传统CPU进行处理,每个掩模版需要两周时间,而在GPU上运行cuLitho,则只需要8小时。
黄仁勋表示,目前光刻技术已经逼近物理学极限,在现在这个暂时没有寻找到突破性技术的状况下,提高产量则是重中之重。
  • DGX AI Cloud

为了让更多的公司能够简便地使用上自家的DGX超算,英伟达宣布推出DGX AI Cloud云服务,甲骨文Oracle Cloud Infrastructure成为首个NVIDIA DGX Cloud服务提供商。
DGX AI Cloud可运行英伟达AI Enterprise加速库套件,直接解决AI端到端的开发和部署。在OCI中,用户可以访问8个A100或H100组建的超级计算机,但是价格也不便宜,最高套餐高达每月3.7万美元。
  • AI界的台积电

黄仁勋宣布,英伟达推出NVIDIA AI Foundations 云服务,让客户可以定制 LLM 和生成式 AI。
其中NEMO用于构建定制的语言文本转文本生成式模型。
Picasso用于制作视觉语言模型,可以用于训练自定义模型,包括图像、视频和 3D 应用。
BioNEMO则面向生物学,如今,药物研发行业的价值已经达到近 2 万亿元,研发投入高达 2500 亿美元。之前英伟达推出的Clara就是一款医疗健康应用框架,用于影像、仪器、基因组学分析和药物研发。
BioNEMO可以让用户使用专有数据创建、微调、提供自定义模型,包括 AlphaFold、ESMFold、OpenFold 等蛋白质预测模型。
老黄总结,NVIDIA AI Foundations 是一个云服务和代工厂,用于构建自定义语言模型和生成式 AI。
  • Omniverse

要说元宇宙谁最靠谱,英伟达说自己第一,绝对没人说第二。Omniverse已经是最近几届GTC的保留项目了。Omniverse由NVIDIA RTX技术提供支持,基于Pixar的Universal Scene Description构建了一个开放式云原生平台。其中最为关键的组件Simulaiton为Omniverse提供了物理仿真,使得用户可以在Omniverse上模拟项目。
Omniverse的应用场景非常广泛,包括艺术家跨多个3D工具创作内容、开发者构建在虚拟世界中训练的AI、企业构建其工业流程的数字孪生仿真等。在这次Keynote演讲上,黄仁勋介绍了宝马使用Omniverse模拟预建造一间新的电动汽车工厂:
  • 总结

英伟达生态已经达到了前所未有的高度,并且凭借多年在AI领域的深耕,英伟达已经毫无疑问的成为了AI业界的龙头。凭借自己的技术布局,英伟达要做AI领域的台积电,金矿前卖铲子的商人。
虽然我们玩家一直嘴上骂老黄不当人,但是英伟达是真的有技术有实力,DIY作为末流市场夕阳行业,英伟达不再像以前一样注重游戏市场,也是时代所趋。你现在看这次GTC的内容,再对比去年9月的GTC内容,格局都不在一个档次的。

    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多