分享

当轻薄本升级到13代酷睿——万物皆可AI

 CHIP中文版 2023-09-11 发布于北京

前几年,科技圈里有个笑话:无AI不开(发布)会。而今天,AI应用已触及生活的方方面面,没有AI就没有未来。

ChatGPT的横空出世,使已经在大数据、高性能计算端热闹了数年的AI应用,以AIGC(AI内容生成)的形式,在个人用户端火爆起来。然而,无论是OpenAI还是百度(文心一言)等AIGC服务提供商,还是以GPU加速器为代表的算力硬件,都将通过网络、云计算做为AIGC的基础。如果网络或者强大的设备,普通消费者就将被排斥在AI世界之外。

早在数年前,英特尔就放出了其客户端产品,也就是个人用PC等终端产品上的AI加速解决方案,如今在13代酷睿处理器上已经全面落地,无论是4000元价位的入门级笔记本电脑还是Evo架构所代表的超轻薄便携机型,都已具备相当的AI加速能力,因为Iris Xe核显是标配。

正是看到了未来AI应用的广泛性和深入性,英特尔已经构建了全体系、全平台的AI加速特性。除了酷睿处理器加入VNNI AI专用指令,可提供包括Int8推理加速、FP16精度模型在内的本地AI应用加速。通过OpenVINO工具套件,现有的基于TensorRT、CUDA等其他平台开发的应用,可快速、高效且平滑地迁移到酷睿处理器平台上完成,进一步推进AI计算本地化执行的落地。就在8月中,英特尔以Premier会员的身份加入PyTorch基金会,推出基于OpenVINO的PyTorch后端方案,使英特尔的客户端处理器(酷睿等)、集成显卡(Iris Xe等)、独立显卡(Arc A等)和专用AI引擎(Movidius VPU等)上,均能通过Pytorch API顺畅运行相关社区开源模型,推动AI进一步普及化。

相比支撑ChatGPT等在线AIGC所需的计算量,英特尔通过模型优化,降低了模型对硬件资源的需求,进而提升了模型的推理速度,社区开源模型能够很好地运行在个人电脑上。如通过BigDL-LLM框架,配有16GB内存容量的13代酷睿笔记本电脑就能处理最高160亿参数的大语言模型,无论是离线使用,还是用私有参数训练私域语言模型,都有着更高的可用性和隐私安全性。

使用13代酷睿平台的Evo笔记本电脑,文字生成速度,首字延迟约为200ms,每token生成时间约为50ms,独享这样的性能,足以达到论文这样复杂的内容的连续创作需求。

除了我们所熟知的CPU可提供AI加速,13代酷睿处理器所集成的核显Iris Xe同样有着强大的AI算力,可使用OpenVINO引擎,支持Stable Diffusion软件上运行FP16精度的模型,快速生成高质量图片,生成速度可达1.1it/s。要知道,达到这一速度的平台,可是一台超轻薄笔记本电脑。

CHIP的编辑们,都很喜欢AIGC图形这一功能,写稿时随手输入关键词,转瞬就能得到符合立意,并且没有版权风险的高质量图片。

13代酷睿平台上,可选Movidius VPU模块,又是一项带着诸多AI特性而来的全新硬件模块,它也将出现在英特尔的下一代处理器平台Meteor Lake中。目前,Movidius可为视频会议等实时视觉处理应用提供加速,智能识别和跟踪主体、一键抠图、随心更换背景、视频横板变竖版等实时完成。同时,VPU还将为如Adobe Premiere Pro等视频编辑软件,提供自动重新构图和场景编辑检测等多媒体功能,并实现更有效的机器学习加速,自动扣图、移除、画面精度提升甚至自动不缺缺损信息,都不需要再求助第三方硬件了。

在实际系统中,结合Iris Xe核显/Arc A独显中Quick Sync Video技术,AV1等超高规视频的编辑、预览和输出都将得到全面提速,目前A380的视频编码速度已超过竞品的最高规格产品。如再加入Movidius的智能优化,视频内容制作与处理的效率将进一步提升,仅使用Evo平台笔记本电脑就能完成这一切。

Iris Xe核显/Arc A独显的AI特性,还会带来更好的游戏体验。随着Arc驱动程序日益完善,英特尔显卡所支持的特有的XeSS超级采样技术得到了越来越广泛的支持,这一特性同样依托GPU内嵌的AI加速能力实现,通过可在CPU与GPU间智能迁移的AI加速,CPU+GPU整体可提供更好的画面质量增强性能。如GPU需要更多承担3D加速计算,相应的AI学习与优化将通过OpenVNIO平滑地迁移到CPU甚至VPU上,CPU事务处理繁忙时,GPU就承担更多的包括AI在内的加速工作,xPU们携手为AI offset亦使13代酷睿平台的AI能力更加强大。

除了的AIGC及图形图像应用场景,智能应用已经渗透到PC日常使用的方方面面。如Wi-Fi 6E的6GHz看起来暂时没有用,那是因为你还没有用上Intel Connectivity Performance Suite(ICPS,英特尔高性能连接套件)的网络管理功能。除了可以管理多种网络连接方式,还可像Killer网卡那样按照应用对网络延迟的敏感程度设定连接优先级,甚至与Double Connect(双频连接)技术协同应用,将不同应用的网络访问需求分配到不同频段上。

以上这些功能虽然并非13代酷睿首创,但是如Killer网卡一样,即使是英特尔自家的东西,但是不同档次和定位的产品,可使用的技术有别。如今,从AI到AIGC,13代酷睿平台笔记本电脑已经拥有了全方位AI能力,在Evo这样的超轻薄与便携平台上拥有全方位的AI能力。

    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多