AI的风正在从数据中心吹向终端。

作为新质生产力的代表,人工智能已经深刻地改变了人们的工作、学习和生活方式,但如果想要实现真正的AI普惠,还需要克服AI个性化服务、效率、成本及安全性等多方面的挑战。在可预见的未来,混合架构AI势必会成为主流,云端的AI可以用来解决极其复杂的问题,而终端侧的AI则能为广大用户提供更加个性化和智能化的服务。

于是我们也看到,近两年发展迅猛的生成式AI正在成为推动手机、PC发展的关键力量,但更加智能化的本地AI需求也对终端的芯片性能提出了更高的要求。

长久以来持续推动AI和移动计算技术创新与发展的Arm,也在近期举办了2024技术媒体分享日,并分享了于近期推出的面向消费电子设备的全新计算子系统:Arm终端计算子系统,该平台包括最新的Armv9.2 CPU集群、Arm Immortalis GPU、Arm Mali GPU以及CoreLink互连系统IP,并首次在终端领域实现了基于3nm工艺生产就绪的CPU和GPU物理实现。

如同Arm终端事业部智能手机市场高级总监Steve Raphael所说的那样,多年以来,移动设备驱动创新,从生产力到娱乐应用的方方面面都在实现AI集成,新的用例和产品正在推动人与人之间跨越语言障碍进行互动,这无疑预示了未来的发展方向,而Arm正是实现这些的基石。

Arm终端事业部智能手机市场高级总监Steve Raphael

面向消费电子设备的全新计算子系统:Arm终端CSS

Arm终端CSS采用最新Armv9.2 CPU集群,其中集成了Arm目前最高性能的Arm Cortex-X925 CPU、最高效的Cortex-A725 CPU和更新后的Cortex-A520 CPU。这为AI和其他实际用例计算工作负载提供出色的性能和效率。

Arm终端事业部产品管理总监Steve Hopper表示,Arm在2021年推出了专为性能和AI而设计的Armv9架构,并在过去几年中提高了在矢量加速、机器学习(ML)等领域的计算能力;增强系统的安全性和稳健性;更重要的是,增加了面向AI的功能。在去年Armv9.2取得成功的基础上,现在Arm正通过全新的Cortex-XCPU和卓越的全新Arm Immortalis GPU来提供全球领先的高性能,并以效率为核心,终端CSS能够为其合作伙伴生态系统带来所需的性能,并且加速其产品上市进程。

Arm终端事业部产品管理总监Steve Hopper

性能表现方面,新一代超高性能核心Cortex-X925的主频达到了3.6GHz。单线程性能较上一代提高了36%,并且带来了46%的AI性能提升,特别是在AI推理性能方面,Cortex-X925的提升达到了59%,在采用双颗Cortex-X925核心设计的情况下,终端CSS的CPU集群在推理性能上最高可以得到170%的性能提升。

作为效率核心的Cortex-A725表现同样突出,与去年的产品相比,能效提高了25%,同时借助更好的预取器和更大的L2缓存,L3流量也减少了20%。众所周知,LLM对带宽的要求十分之高,在减少对L3和DDR内存压力的前提下,LLM模型可以拥有更高的性能。

此外,Cortex-A520和DSU-120也通过Arm终端CSS进行了全面的更新。与2023 Arm全面计算解决方案(TCS23)中的Cortex-A520相比,得益于更新的实现与先进的三纳米物理实现,新一代Cortex-A520能效提升了15%。DSU-120保留了为高性能用例扩展到14个核心的选项,其典型工作负载的功耗显著降低50%,并且整个CPU集群的缓存未命中功耗降低60%,从而减少漏电并延长设备的电池寿命。

Arm终端事业部高级产品经理Manish Pandey表示,Arm的目标之一是为Arm技术所触及的每个细分市场都提供可信且出色的解决方案,并确保Arm为各类市场和解决方案做好迎接AI的准备。Arm专注于大幅提升AI性能。Cortex-A925实现了一流的IPC,卓越的单线程核心性能;Cortex-A725则能提供出色的持续性能。与此同时,Arm帮助解决实际应用的复杂性和多维度问题,以提升用户体验。总之,这是Arm迄今为止面向AI和UI的性能最强大的CPU集群。

Arm终端事业部高级产品经理Manish Pandey

除了Armv9.2 CPU集群之外,Arm终端CSS中也包括了Immortalis-G925 GPU,作为Arm目前性能最强,效率最高的GPU,Immortalis-G925 GPU与Immortalis-G720相比,在各种图形应用中的性能提高了37%,在AI/ML网络方面的性能提升达到了36%,在提供与2023年参考平台相当的游戏性能的同时,Immortalis-G925GPU能够节省30%的能耗,而在对复杂对象进行光线追踪时,性能提升则高达52%。

安谋科技(Arm China)市场总监王刚表示,终端用户最关心的是实际环境用例和工作负载,也就是日常游戏玩家或用户使用设备带来的工作负载,因此,Arm对Immortalis-G925 GPU设计上的关注点主要集中在实际环境中的游戏性能、AI/ML性能以及与生态系统合作伙伴协作三方面。

安谋科技(Arm China)市场总监王刚

具体到游戏性能方面,主流手游运行在采用Immortalis-G925 GPU的Arm终端CSS参考平台时,性能平均提升达到了46%,其中《原神》的性能提高了49%,《绝地求生手游》的性能提升了36%,《Roblox》的性能提升则达到了46%。

AI性能方面,虽然目前很多的AI应用是可以运行在CPU之上的,但对于图像分割、物体检测这样的负载来说,在GPU上运行往往能得到更好的效果,与去年的全面计算解决方案相比,Immortalis-G925 GPU在图像处理方面的提升达到了41%,在超级采样任务中,使用神经网络放大图像时,性能提升达到了将近30%,而在自然语言处理和语音转文本方面,更是达到了50%的性能提升。

为了让最终用户获得更加卓越的体验,Arm也与Unity这样的生态合作伙伴展开了密切合作,从而更大限度地提升其性能表现。

此外,Arm Mail系列新推出的Mail-G725和Mail-G625则专门面向中高端手机和入门级移动设备,Mail-G725支持在6-9个核心之间扩展,而Mail-G625则支持在1-5个核心之间扩展,为移动设备的处理器设计提供了更多的选择。

Arm Kleidi:助力开发者加速创新

除了硬件平台之外,Arm也面向开发者推出了Arm Kleidi。作为一项广泛的软件和软件社区参与计划,Arm Kleidi推出的初衷就是为了加速AI的创新和发展。其中,Kleidi软件库包含面向AI工作负载的Kleidi AI和面向运行于ArmCPU上出色的计算机视觉工作负载的Kleidi CV。该软件库可以被直接嵌入到热门的AI框架中,开发者无需进行任何操作,就能够轻松地启用Arm CPU的AI功能,从而快速构建AI应用,并在尽可能广泛的设备上实现最出色性能。

安谋科技(Arm China)开发者生态高级经理李陈鲁表示,Kleidi AI是一套面向AI框架开发者的计算内核,开发者可以在各种设备上轻松获得ArmCPU的最佳性能,并支持Neon、SVE2和SME2等关键Arm架构功能。Kleidi AI与PyTorch、Tensorflow、MediaPipe等热门AI框架集成,旨在加速Meta Llama 3、Phi-3等关键模型的性能,并且还可前后兼容,以确保Arm在引入更多技术时依然能适用未来市场的需求。

安谋科技(Arm China)开发者生态高级经理李陈鲁

对于那些需要用到计算机视觉解决方案的开发者而言,Kleidi CV的引入则能带来巨大的性能提升,现如今,计算机视觉与AI紧密相连,真正意义上纯粹的ML影像管线并不存在,即便相关的ML任务是由NPU来运算完成的,大量数据仍需要被在不同的阶段进行封装与转换,以保证这些部分不会成为整体的瓶颈,这也是Arm推出Kleidi CV的重要原因。在今年,Arm还与OpenCV.ai合作,力求让安卓开发者可以更轻松地将OpenCV纳入到他们的项目中,并从Kleidi CV带来的改进中受益。Kleidi AI和Kleidi CV的结合,使得Arm生态的开发者在智能终端上轻松部署AI应用与功能,为AI生态的搭建提供有力支持。

性能分析工具领域,此前Arm推出的用于帮助移动游戏开发者管理并优化性能的免费分析工具Arm Mobile Studio正式更名为Arm Performance Studio,并增加了对Arm Linux的支持。

如今AI已经无处不在,凭借Arm终端CSS平台优秀的性能表现,以及Arm在软件层面构建的丰富开发工具,Arm正在将前沿的CPU和GPU技术、生产就绪的物理实现和持续的软件优化相结合,为未来的AI计算平台构建基石。

(8793830)

友情提示

本站部分转载文章,皆来自互联网,仅供参考及分享,并不用于任何商业用途;版权归原作者所有,如涉及作品内容、版权和其他问题,请与本网联系,我们将在第一时间删除内容!

联系邮箱:1042463605@qq.com