一文了解NPU是什么?

袁遗说科技 2024-08-11 20:02:36

本文由半导体产业纵横(ID:ICVIEWS)转载自数位时代

AI PC浪潮下,NPU成为重要关键字,NPU和CPU、GPU有哪些不同?各科技大厂目前在NPU领域发展如何?

在挑选电脑时,一些消费者会比较各机种的CPU拥有多少个核心,对于电玩游戏较讲究的,则偏好搭载GPU的机型,以追求更精致的视觉效果、更流畅的操作体验。

随着今年迈入“AI PC元年”,各笔记本电脑厂相继推出自家的AI PC,而厂商在介绍产品效能时,不时会提到“NPU”一词。究竟NPU是什么,和CPU、GPU有哪些不同?各科技厂目前在NPU发展又是如何?

CPU、GPU、NPU快速看懂!都是处理器,到底差在哪?

用比喻来解释CPU、GPU、NPU的差别,可以想像CPU是能力高强的“博士生”,可解决复杂且多样的任务,但只能照顺序一次解决一个问题;GPU是一群“数学系大学生” ,擅长加减乘除,可以同时处理大量的运算工作(平行运算);NPU则是专攻AI运算一技之长的“技职生”,遍布在AI PC、AI手机、智能穿戴等各种装置中。

以下针对CPU、GPU、NPU分别来介绍:

CPU 中央处理器(Central Processing Unit)

CPU被视为是电脑的“大脑”,负责执行作业系统、应用程序运作所需的命令与程序,也是决定程序执行速度的关键,不论是浏览网页或处理文书作业,都会受到CPU效能的影响。

英特尔(Intel)及AMD是生产CPU的领导厂商,根据市调机构Jon Peddie Research报告指出,2024年第一季内建显卡的PC CPU市场,英特尔维持领先地位拿下82%市占率,AMD则是18%。

GPU 图形处理器(Graphics Processing Unit)

自1990年代电玩游戏兴起,由于游戏画面同时要显示成千上万个像素,每个像素又都有自己的色彩、光线强度及移动变化,原为通用运算设计的CPU在运算上变得难以负荷。于是,专长于绘图运算的GPU应运而生。

在硬件架构上,GPU具有数百至数千个算数逻辑单元(Arithmetic Logic Unit,ALU),得以处理众多平行执行的数学运算,加快绘图渲染、影片编码解码等处理,也格外适合执行AI的深度学习演算法,GPU因而在AI浪潮下大放异彩。

NVIDIA是GPU领域的开创者及龙头,1999年发售的“GeForce 256”被誉为“世界上第一款GPU”。2007年,英伟达推出便于GPU加速运算的CUDA软件架构。据研调公司TechInsights分析,英伟达2023年的资料中心GPU出货量市占率高达98%,远超英特尔、AMD等对手。

NPU 神经网络处理器(Neural-network Processing Unit)

GPU扮演资料中心、AI服务器不可或缺的要角,不过边缘运算浪潮下日趋火红的NPU,则是专门为加速服务器的AI运算所打造。

NPU具有两大技术特点:第一个是模拟人类神经网络的运作方式,同样擅长平行运算处理,并适当地分配芯片内的“任务流”,减少闲置的运算资源。

第二个是经由“近存储器运算”(将处理器尽量靠近DRAM,以减少资料的传输延迟以及功率消耗)或“存内运算”(将简单的逻辑运算移至存储器阵列中),实现储存及运算的一体化,降低运算过程的能耗、加快存取速度,从而提升AI运算的执行速度和效率。

相较于CPU及GPU,低功耗、高效能的NPU格外适合处理AI推论任务,包括影像辨识、自然语言处理、物件侦测等应用。

近年,各大PC及手机芯片厂为提升AI运算能力,纷纷在芯片设计中纳入NPU。

如何决定要使用CPU、GPU或NPU?

CPU、GPU、NPU各有所长,并且相辅相成,对于AI PC、AI手机芯片,通常藉由将三者整合为系统单芯片(SoC)的方式,提高能源效率及效能。

英特尔去年发表Core Ultra芯片(代号“Meteor Lake”)时,便直言“这是40年来PC处理器架构上最大的跃进”,因为这是该公司首次将NPU整合到系统单芯片设计中。NPU专门处理特定的AI工作负载,便可将CPU及GPU用于执行其他任务。

芯片大厂高通一篇针对NPU的专文介绍则提到,CPU适合用于低延迟、顺序性的小型模型运算,GPU擅长高精准度的图像处理平行运算,NPU则可透过低功耗达到稳定的高性能AI运算,持续运行LLM(大型语言模型)、LVM(大型视觉模型)等模型。

主要PC、手机芯片厂NPU发展最新动态

如果说NPU是AI的专用引擎,TOPS便是衡量这个引擎马力的单位,根据微软对“Copilot+PC”的规格要求,需符合NPU算力不少于40TOPS的规格,掀起了新一波PC处理器效能大战,这也将成为消费者选购AI PC的一大指标。

英特尔

英特尔即将在今年9月上市的Lunar Lake,NPU算力达到48 TOPS,相较前一代Meteor Lake处理器的11.5TOPS提升3倍。

AMD

AMD执行长苏姿丰在2024中国台湾国际电脑展上,展示第3代Ryzen AI处理器,NPU算力高达50 TOPS,在目前的NPU算力竞争暂居领先。根据AMD秀出的数据,其性能表现超越高通Snapdragon X Elite、英特尔Lunar Lake以及苹果的M4芯片。

高通

至于在Copilot+PC最早鸣枪起跑、推出首波产品的高通,Snapdragon X Elite的NPU算力则是45 TOPS。

高通资深副总裁暨营销长麦奎尔(Don McGuire)先前接受《数位时代》专访指出,即使竞争对手未来推出TOPS更强的NPU,高通仍有产品领先的优势,将会持续跟微软合作,提升定制化程度。

联发科

联发科于2023年底推出的天玑9300,其NPU效能已达到48 TOPS,而今年10月即将发布的新一代天玑9400,预期将会更进一步推升NPU算力。

苹果

苹果于今年5月的发布会中,出乎外界预料地将新一代M4芯片,首发于最新的iPad Pro,NPU算力为38 TOPS,尚未达微软Copilot+PC的40 TOPS门槛。

在MacBook笔记本电脑方面,业界预期,苹果将在2024年内将MacBook Pro更新到M4系列芯片,至于MacBook Air则因为刚升级至M3芯片不久,预计需留待明年春季才会更新。

*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。

0 阅读:40

袁遗说科技

简介:感谢大家的关注