如何让AI普惠每个人?Arm年度技术大会给出了全新答案

雷科技 2024-11-27 16:54:19

11月21日,Arm在深圳举办的Arm Tech Symposia年度技术大会顺利结束,作为Arm的亚太五城巡回活动的最后一站,雷科技受邀参加此次大会,并与Arm 终端事业部产品管理副总裁James McNiven面对面交流,听其了Arm目前的市场进展以及未来的一些计划。

图源:arm ARM的AI三位一体观:硬件、软件与生态

此次大会以“让我们携手重塑未来”为主题,吸引了超过3500名开发者、工程师及业内人士参加,共同探讨人工智能 (AI) 发展趋势和前沿创新,此外,在本次大会上,Arm还与生态合作伙伴一起展出了多项新的技术与应用。在场外的展区中,可以看到三星等企业的最新技术展示,其中也包括Arm的Kleidi技术展示,利用这个全新的软件库,开发者可以轻松对AI应用进行优化,使其运行效率得到显著提升。

在现场的演示中,经过Kleidi软件的优化,硬件可以在推理性能方面获得50%以上的效率提升,而且这个软件适用于所有符合性能要求的Arm架构硬件。据现场工作人员介绍,他们正在与阿里等合作伙伴合作,一同探讨Kleidi软件在数据中心等场景的应用,借助Kleidi的优化有望大幅度降低算力成本,让AI应用的普及变得更加轻松。

图源:arm

此前在北京举办的媒体技术日上,Arm就已经详细介绍过今年发布的针对终端市场的两大重磅更新:Arm终端CSS和Arm Kleidi软件。而几个月后的今天,我们已经见到了两个技术对市场的影响,大量的AI应用诞生并被用户下载使用,Arm生态中超过2000万的开发者因此而受益。

从中我们也能看到Arm在进入AI时代后的变化,作为计算平台行业的顶层,Arm以前更多是与下游直接的芯片设计厂商沟通,比如高通、苹果、联发科等。随着AI服务的遍地开花,巨大的移动端AI需求让Arm进一步凭借技术解决方案,实现成功转型。可以看到Arm近年来开始更多地关注开发者,并且与多家终端厂商展开合作。

前段时间,vivo 与Arm成立的联合实验室正式揭牌,在硬件、生态、软件等多个层面进行深度合作,其中一项成果就是大家熟悉的蓝晶芯片技术栈,通过与Arm的合作,vivo实现了基于芯片底层的系统优化,进一步提升手机的能效比,让系统变得更加流畅且可以在未来适配更多的AI功能。

图源:arm 

除了与手机厂商合作外,Arm在此次大会上还正式官宣与腾讯达成深度合作,将会把KleidiAI技术融入腾讯混元自研的Angel机器学习框架中,进一步提升移动端人工智能服务的推理性能和效率。

同时Arm也与谷歌、Meta等互联网企业合作,为他们的AI模型提供更广泛的支持和优化,协助企业将AI部署到更多的应用、终端之中。在Arm列出的一众应用里,你很轻松就可以找到自己常用的App、系统,作为当下移动生态的生态核心,Arm确实是那个最有可能从底层开始整合各个智能生态的厂商之一。

用整合来说或许不太对,更准确地说是「合作共赢」,事实上现在的Arm也是通过合作等方式,在各个领域进一步拓展自己的影响力,而不再是仅限于半导体领域。

Arm认为,AI将会是当今时代最重大的技术变革之一,极有潜力成为人类最重要的技术之一。但是想要让AI普及到更多的领域和用户,那么硬件、软件、生态三方就必须携手共进,仅靠任何一方的单打独斗都很难去快速推进AI化进程。所以Arm希望可以通过打造更适合AI的硬件与更匹配AI时代的软件,来为AI生态的进程加速,也就是此前发布的Armv9架构和Kleidi。

图源:arm

而在硬件与生态的基础上,Arm也希望让更多的设备可以支持AI,对此Arm甚至给出了一个目标:在2025年让千亿台由Arm驱动的设备具备AI能力。虽然迄今为止基于Arm架构的芯片出货量已超过3000亿颗,但是想要实现这个宏大愿景,那么就必须对AI大模型、应用进行深度的优化,让更多过去的硬件可以支持新的AI应用。

Arm可以实现这个宏大的目标吗?让我们拭目以待。

James McNiven:Arm希望做AI时代的基石

在技术大会当天,雷科技受邀参加了小规模的闭门媒体沟通会,沟通会中Arm 终端事业部产品管理副总裁James McNiven为我们更深度地解读了目前AI生态发展所面对的挑战,以及Arm从中看到的机遇。

虽然AI被认为是最具潜力的新技术之一,但是想要完全释放AI的潜力却并非易事,AI对性能、效率和体验等方面的高要求,正在迫使半导体厂商加快设计方案的迭代,所以Arm在定位面向AI计算的Armv9发布后,不断快速迭代增添新的架构功能为AI计算提供支持,今年已推出基于Armv9.2的计算平台。

图源:arm

而且,许多合作伙伴都希望可以更轻松的定制属于自己的软件方案,所以Arm一直在解决方案上做更深度的挖掘,推出Kleidi软件库,不仅仅是助力开发者无缝取得Arm CPU上的最佳性能,还可以为开发者提供多样化的定制支持。

除了更广泛的解决方案支持,Arm也一直在与三星、台积电等全球领先的半导体工厂保持深度合作,确保Arm产品可以最快地适配最新制程,为用户提供设计参考。James McNiven认为,制程工艺在AI时代将变得更加重要,因为AI对内存、电量、性能等都提出了前所未有的高要求,只有最先进的制程可以满足芯片设计的要求。

图源:arm 

在雷科技看来,想要满足AI普及所需的高能效性能,必须从硬件、软件等每一个方向进行优化。AI从来都不是某个单一的硬件或是系统,而是一个需要各方协作的巨大生态链,必须确保这个链条上的每一个环节都具有高效率,才能最大程度降低AI的使用成本,这也是James McNiven在会议中一直强调能效、生态以及厂商合作的原因。

随后,雷科技向James McNiven提问:“在生成式AI快速发展的当下,Arm是否打算重新定位自己在智能手机和PC市场的角色?是否会与终端厂商进行更深度的合作并优化硬件产品?”

James McNiven表示,在生成式AI的需求下,Arm正在与合作伙伴进行更紧密的合作,其中也包括更多终端厂商,比如前面提到过的vivo,通过与终端厂商的合作,Arm可以更好聆听用户声音,了解手机用户都对哪些功能更感兴趣?对目前的功能又有哪些意见和建议?从而针对这些市场需求进行优化。

Arm希望可以与更多的厂商建立联系,去了解AI时代的真正用户需求,以此来确保未来的技术开发可以持续满足市场需求。Arm将继续大力提升计算平台解决方案的性能,尤其是 CPU 和 GPU 等产品中的 AI 性能,并继续加强Arm终端CSS的整体能效和性能表现,这就是目前厂商给到的需求反馈,随着合作的增加,Arm也可以保持更好的市场竞争力。

图源:arm

James McNiven对于雷科技上次参加Arm终端技术媒体沟通会后的报道感到印象深刻,并表示希望在明年的技术沟通上,能够与雷科技继续讨论最新的技术进展。

在沟通会的最后,James McNiven再次强调,随着时间的推移,AI化会成为未来智能设备的核心,从个人终端到数据中心,Arm希望可以作为AI时代软件运行的基石,让科技的进步惠及每一个人。

在移动芯片时代,Arm被称为芯片界的扛把子,获得了“移动芯片之王”的美誉。近年来,Arm正在向PC、服务器、汽车等场景渗透,比如掀起了如火如荼的Windows on ARM浪潮。雷科技认为,Arm驱动AI的努力正在让AI on ARM趋势若隐若现。

作为关注全球AI硬科技的新媒体机构,雷科技持续关注ARM生态,以及Windows on ARM,AI on ARM,AI PC,AI手机,AI硬件等新浪潮。25年1月,CES(国际消费电子展览会) 25开幕在即,雷科技报道团已成团,届时我们将飞赴美国·拉斯维加斯报道AI硬科技最新动态,包括Windows on ARM、AI on ARM的最新趋势,敬请关注。

0 阅读:9

雷科技

简介:专注AI硬科技