Geekbench推出新AI基准测试工具,可测试CPU、GPU和NPU的性能

黑客部落 2024-08-18 14:22:35

随着NPU(神经处理单元)逐渐成为Intel和AMD芯片的标准配置,新推出的Geekbench AI基准测试工具终于脱离了测试阶段。NPU多年来主要用于智能手机和平板电脑(以及Mac),但随着更多公司推崇在设备本地进行生成式AI处理、图像编辑和聊天机器人的操作,而不是依赖云端,衡量NPU性能的重要性日益增加,这也将影响人们的购买决策。

Primate Labs是Geekbench的开发者,该工具主要用于测试CPU和GPU的计算性能。然而,在过去几年里,Primate Labs一直在研发一个名为Geekbench ML(“机器学习”)的附加项目,用于测试NPU的推理性能。如今,随着微软的Copilot+计划起步,以及Intel、AMD、高通和苹果都在推动NPU性能的提升,Primate Labs将Geekbench ML升级为1.0版,并重新命名为“Geekbench AI”,这一变化有望借助AI相关的热潮获得更多关注。

Primate Labs的John Poole在博客文章中写道:“就像CPU受限的工作负载在利用多核或多线程进行性能扩展方面有所不同(因此需要在大多数相关基准测试中提供单核和多核指标),AI工作负载涵盖了一系列精度水平,取决于任务需求和可用的硬件。” 他解释说:“Geekbench AI通过单精度数据、半精度数据和量化数据的工作负载测试总结了其结果,这些数据在AI系统中都被开发者广泛使用。”

除了测量速度之外,Geekbench AI还尝试测量准确性,这对依赖一致结果的机器学习工作负载至关重要(例如在照片库中识别和分类人物和物体)。

Geekbench AI支持多个AI框架:Windows和Linux上的OpenVINO、Windows上的ONNX、Snapdragon驱动的Arm PC上的高通QNN、macOS和iOS上的苹果CoreML,以及在各种Android设备上的多个特定厂商框架。该应用程序可以在CPU、GPU或NPU上运行这些工作负载,前提是你的设备安装了兼容的NPU。

在Windows PC上,由于NPU支持和微软的DirectML等API仍在开发中,Geekbench AI目前支持Intel和高通的NPU,但暂不支持AMD的NPU。

Poole告诉Ars Technica:“我们希望在未来的版本中添加对AMD NPU的支持,一旦我们对如何最好地从AMD启用它们有了更多的了解。”

Geekbench AI现已在Windows、macOS、Linux、iOS/iPadOS和Android平台上提供,免费使用。不过,Pro版本可以提供命令行工具、无需将结果上传至Geekbench浏览器即可运行基准测试,以及其他一些功能。尽管该应用程序今天已推出1.0版本,Primate Labs团队预计会根据新硬件、框架和工作负载的需要频繁更新该应用程序。

Poole在公告文章中继续说道:“AI的发展速度极快,所以随着市场需求和AI功能的变化,请期待新版本和更新。”**

0 阅读:12

黑客部落

简介:计算机安全技术分享,网络安全攻防技术分享