AI手机和PC除了散热是新的增量之外,还有这个方向也值得大家注意

伍哥说 2024-05-31 12:55:43

一、交易层面

近期行情轮动明显,交易上整体谈不上顺利,主要是不习惯太短的思维,寄希望于短期更大的回报,所以反复性之后,反而产生了亏损。对于当下我们整体的策略依然是科技+高端装备的思维,其中科技是主要关注的方向,这点维持不变。

二、NPU将会成为又一个AI手机HE PC的重要增量

1)什么是NPU及主要功能

NPU全称为NeuralNetwork Processing Unit,即神经网络处理器,它是一种专门设计用于加速终端侧计算能力的处理器。与传统的CPU和GPU相比,NPU在执行如AI推理等特定类型的计算时,能够提供更高的效率和能效,这使得它们在移动设备和嵌入式系统中特别受欢迎。

NPU的原理主要包括两个方面:计算单元和数据存储。

计算单元是NPU的核心部件,它是专门为神经网络计算而设计的。NPU的计算单元通常采用矩阵计算、向量计算等方式,可以快速地执行矩阵乘法、卷积等计算。相比传统的CPU和GPU,NPU的计算单元具有更高的计算效率和更低的能耗,能够更加高效地完成神经网络计算任务。

数据存储是NPU的另一个关键组成部分。由于神经网络模型通常非常庞大,因此NPU需要具备足够的存储容量来存储模型参数和中间计算结果。NPU的数据存储通常采用高速缓存和显存的结合方式,以便更快地存取和读取数据。

2)为什么需要NPU

NPU可以帮助端侧设备,如手机、电脑、蓝牙音响等终端设备具有本地化运行大模型的能力,例如一个手机的处理器没有搭载NPU,那要具备AI功能只能通过云端连接大模型,而加载NPU后可在本地运行大模型,数据私密性、时效性及各类AI功能的场景体验性都将获得极大提升。

3)NPU的优势

提升了终端侧的AI计算能力,使AI模型的推理更加快速高效。例如AMD的锐龙8040系列移动处理器,集成有RyzenAI NPU,其AI处理性能比之前的AMD型号高1.6倍。NPU芯片的优势在于高效能、低功耗、易于编程、降低了开发门槛,同时支持多种语言和框架方便开发者进行模型开发和部署。

4)NPU市场规模

IDC预测,到2025年中国加速服务器市场规模将达到108.6亿美元,其中包括NPU在内的非GPU服务器市场规模将达到25.6亿美元。

5)举例说明

英特尔Lunar Lake处理器AI算力将达100TOPS:NPU贡献45%(即45T),有CPU AI算力大约是5TOPS,而GPU算力则比NPU略高,达到了50TOPS。再则比如苹果的M4。CPU核心:4个性能核心+6个能效核心;GPU核心:10核;NPU核心:16核,可提供38TOPS算力。

6)使用场景

NPU在图像识别、语音识别、自然语言处理等领域都有广泛应用

图像识别: NPU可以快速地对图像进行分类、检测和分割等操作

语音识别: NPU可以实现实时语音转换和语音合成等功能

自然语言处理: NPU可以帮助机器翻译、文本分类、情感分析等任务更加高效地完成

7)NPU的重要性

业内普遍认为,未来“CPU+NPU+GPU”的组合将成为AI PC的算力基座。CPU主要用于控制和协调其他处理器的工作、GPU主要用于大规模并行计算、NPU专注于深度学习和神经网络的计算。三种处理器协同工作可以充分发挥各自的优势,提高AI计算的效率和能效比。

8)部分使用场景深化

(AI手机)根据Canalys最新报告,2023年AI手机占智能手机比例仅3%,预计到28年该比例将达到54%,市场CAGR63%。

(AIpc)根据Canalys报告,2024-2028年全球AIPC渗透率将从19%提升至71%,出货量将从0.51亿台提升至2.08亿台,24E-28E CAGR42%。

(智能驾驶)特斯拉第一代FSD两个NPU,每个NPU是9216个INT8 MAC,运行频率是2GHz,算力就是2*2*2G*9216=73.7TOPS。(目前特斯拉已经是进入到了第二代)

三、NPU相关参考公司

国科微——公司聚焦于边缘AI芯片产品的开发与场景落地,公司已量产的视频编码产品搭载公司自研的NPU架构,已实现0.5T-8T算力全覆盖,产品使用场景涵盖传统监控、汽车电子、智能家居等机器视觉领域。

瑞芯微——公司在2018年推出了首颗单独的NPU芯片。NPU作为公司自研IP,目前已经过多代迭代,并形成一系列内置自研NPU的SoC芯片产品(例如从0.5T算力的RV1106/1103到6T算力的RK3588等)。公司产品可以高效支持各类视频、视觉、音频等AI算法的部署,也能够高效支持主流模型架构,满足各种AIoT场景下端侧和边缘计算侧的产品应用。

九联科技——公司于2021年底开始研发信创的智算产品,采用的核心方案为华为海思的PANGU M900。PANGU M900是华为研发的针对信创市场的高性能高集成度计算平台。集成高性能华为自研NPU,公司研发的信创智算产品可作为华为盘古大模型边缘端侧的算力底座。

全志科技——CPU、NPU、GPU属于公司SoC产品的功能模块,公司会持续根据客户需求推出新的芯片产品和解决方案。公司深入分析AI算法的应用场景,主动积极推进NPU和DSP的AI专用算力在终端产品应用的落地;

云天励飞——DeepEdge10作为首颗云天自研的SOC芯片,搭载新一代自研NPU(NNP400T),其神经网络处理单元(NPU)集成到PC处理器中。

晶晨股份——晶晨A311D采用12纳米工艺,内置神经网络处理器NPU算力可达5 TOPS ,可基本满足行业对于边缘算力的要求。

芯原股份——集成了芯原NPUIP的人工智能(AI)类芯片已在全球范围内出货超过1亿颗,主要应用于物联网、可穿戴设备、智慧电视、智慧家居、安防监控、服务器、汽车电子、智能手机、平板电脑、智慧医疗等10个市场领域,在嵌入式AI/NPU领域全球领先,芯原的NPUIP已被72家客户用于上述市场领域的128款AI芯片中。

芯海科技——芯海科技是国内领先的AI芯片设计公司,其自主研发的AIPC芯片SC9860SC9860融合了AI推理和图像处理两大功能,采用7纳米工艺制造,具备极高的能效比和运算性能。2024年SC9860芯片才得以在主流手机品牌中大规模应用,展现出真正的实力。作为首批采用SC9860的手机厂商之一,某国产手机巨头就推出了搭载该芯片的新一代旗舰机型。

备注:散热相关的文章,可以回顾前文,同时关注ODM、零部件和结构件企业。

0 阅读:0
伍哥说

伍哥说

感谢大家的关注