由Arm驱动的NVIDIAProjectDIGIT

汽車之訊 2025-01-15 20:28:40

  目前,一个令人兴奋的趋势是人工智能(AI)应用和功能在各种边缘设备上的快速扩展和普及。随着人工智能的不断发展和进步,对于人工智能研究人员、数据科学家、开发人员和学生来说,获得高性能的计算能力来开发或运行语言模型、视觉模型或多模态模型等新模型变得至关重要。鉴于人工智能创新的空前加速,该行业需要确保开发人员可以在云端和边缘访问高性能计算能力,以便直接访问更多新功能。

  为开发人员实现易于访问的突破性AI性能

  在今年的国际消费电子展(CES)上,英伟达创始人兼首席执行官黄仁勋在主题演讲中宣布了他的个人AI超级计算机NVIDIA Project DIGITS,朝着“AI可以在任何地方开发和部署”的愿景迈出了又一重要步。基于Linux系统的DIGITS项目配备了Arm CPU内核,使每个AI开发人员都能拥有高性能的AI桌面系统。

  由Arm推动的NVIDIA Project DIGITS为数百万开发人员带来了高性能的AI计算能力

  Project DIGITS采用新的NVIDIA GB10 Grace Blackwell超级计算机,配备NVIDIA Grace CPU、NVIDIA Blackwell GPU、新一代CUDA®Core和第五代TensorCore,通过NVIDIA NVLink®-C2C芯片间互连技术实现连接,并配备128GB统一高一致性内存。NVIDIA Grace CPU配备了先进的高性能Arm Cortex-X和Cortex-A技术,配置了10个Cortex-X925和10个Cortex-A725 CPU内核。NVIDIA GB10超级计算机可以提供高达1 PFLOPS(1000 TFLOPs)的AI性能和FP4计算精度,使开发人员能够对AI模型进行原型制作、微调和推理,同时与云或数据中心环境无缝集成以进行协作工作。

  Arm计算平台的价值

  借助无处不在的Arm计算平台,新的AI模型和应用程序可以在边缘端更高效、更快速地运行。在消费技术市场,无论是用于DIGITS项目的最新Arm CPU,还是作为Arm终端计算子系统(CSS)的一部分集成,Arm CPU技术都已成为市场上高性能边缘设备的核心驱动力。这些CPU技术经过精心优化,在各种实际用例和工作负载中实现了最大的性能和效率。

  Arm计算平台还具有灵活性,可以针对不同的AI应用场景使用不同的计算引擎。在NVIDIA Project DIGITS中,基于Arm架构的NVIDIA Grace CPU和NVIDIA Blackwell GPU相互协作,使开发人员能够将这些组件用于各种工作负载。这种异构计算策略对于在管理内存利用率和功耗的同时最大限度地提高AI性能至关重要。

  NVIDIA SoC产品副总裁Ashish Karandikar表示:“我们与Arm在GB10超级计算机上的合作巧妙地将NVIDIA的人工智能专业知识与Arm的可扩展计算平台相结合,以实现出色的性能和能效,这将推动下一代人工智能创新。随着DIGITS项目的推出,每个人工智能开发人员和研究人员都将拥有一台强大的超级计算机

  释放软件创新潜力

  对于开发人员来说,拥有一个完全集成的软件和硬件人工智能平台至关重要。ProjectDIGITS使用开源Linux操作系统,允许用户访问资源丰富的NVIDIA AI软件库,包括NVIDIA NGC目录和软件开发工具包、编排工具、框架和NVIDIA开发者门户上提供的AI模型,以加速生成AI的工作流程。

  Arm、NVIDIA Grace Hopper和Grace Blackwell在数据中心的合作为数据中心和边缘设备环境提供了一致的平台架构,使开发人员能够无缝地使用同一套工具进行人工智能应用程序开发。此外,Arm继续积极推动开源开发者社区的重要工作,旨在开发适应性软件,加快人工智能的全面部署。目前,全球有2000多万软件开发者正在Arm计算平台上构建自己的应用程序,共同推动了一个快速创新和增长的开源社区。

  赋予高性能人工智能计算能力的理想平台

  作为当前和未来人工智能领域使用最广泛的计算平台,Arm自然成为DIGITS项目中GB10超级计算机的理想平台。Project DIGITS是一个功能强大的个人电脑桌面平台,可以运行高达200B参数的AI模型,使不可能成为可能。这种对人工智能生态系统的广泛影响为全球数百万开发人员带来了灵活、高性能和节能的人工智能功能。通过与NVIDIA和Arm强大的软件生态系统的密切合作,我们热切期待下一代高度创新的人工智能应用程序的出现。

汽车之讯

0 阅读:1
汽車之訊

汽車之訊

感谢大家的关注