AI大模型算力芯片产业深度分析

薪科技快评 2024-09-11 07:40:18

AI 大模型算力芯片产业深度分析

算力需求爆发拉动芯片量价齐升

ChatGPT,由OpenAI推出的全球热门对话AI模型,自2022年12月上线以来便备受瞩目。其于2023年1月的活跃用户数已突破1亿,成为历史上增长最快的消费者应用之一。除了问答模式外,ChatGPT还可以进行推理、编程和文本创作等多项功能,为用户带来全新的体验和流量增长。

1、▲芯片需求=量↑ x 价↑ , AIGC拉动芯片产业量价齐升

AIGC技术将带来全新的场景,同时原场景的流量也将大幅提升。从技术原理角度来看,ChatGPT基于Transformer技术,随着模型不断迭代,层数逐渐增多,对算力的需求也随之增加;从运行条件角度来看,ChatGPT完美运行所需的三个关键要素:训练数据、模型算法和算力,需要在基础模型上进行大规模预训练。其强大的存储知识能力源于1750亿参数,这意味着需要大量的算力支持。

随着对高端芯片需求的增长,芯片价格将受到推动。例如,英伟达顶级GPU的采购成本高达8万元,而GPU服务器通常超过40万元。为支持ChatGPT所需的计算能力基础设施,至少需要数万颗英伟达A100 GPU。因此,高端芯片需求的迅速扩大将进一步推高芯片市场价格。

揭秘ChatGPT背后的实力支柱:芯片产业,国内GPU、CPU、FPGA、AI芯片及光模块产业链前景可期。

FPGA:深度学习+分布式集群数据传输,助力大模型。高灵活性、短开发周期、低延时、并行计算等优势,安路科技、复旦微电、紫光国微值得关注。

ASIC:专为AI应用设计的极致性能与功耗优化芯片。寒武纪、澜起科技等公司在这方面具有竞争优势,值得关注。

随着数据传输量的增长,光模块作为数据中心内设备互联的载体,需求量随之增长。德科立、天孚通信、中际旭创是值得关注的公司。

1. 算力需求爆发拉动芯片量价齐升

AI计算需要各类芯片支撑

算力需求爆发,芯片量价齐升

AI服务器为算力载体

CPU、GPU、FPGA、ASIC、光模块各司其职

1.1 人工智能四层架构,芯片为底层支撑

1.2 人工智能不同计算任务需要各类芯片实现

1.3 ChatGPT流量激增,为AI服务器带来重要发展机遇

1.4 AI服务器快速增长,大力拉动芯片需求

1.5 AI服务器芯片构成——CPU+加速芯片

1.6 CPU擅长逻辑控制,可用于推理/预测

1.7 服务器CPU向多核心发展,满足处理能力和速度提升需要

1.7 GPU高度适配AI模型构建

1.8 FPGA:可通过深度学习+分布集群数据传输赋能大模型

1.9 ASIC可进一步优化性能与功耗,全球巨头纷纷布局

国内外ASIC芯片龙头布局

随着机器学习、边缘计算、自动驾驶的发展,大量数据处理任务的产生,对于芯片计算效率、计算能力和计能耗比的要求也越来越高。ASIC通过与CPU结合的方式被广泛关注,国内外龙头厂商纷纷布局迎战AI时代的到来。

ASIC是指专用集成电路,它是一种专门为某种特定应用而设计的集成电路。ASIC具有高效、低功耗、高性能、高可靠性等优点。与CPU结合的方式可以提高计算效率和降低功耗。

1.10 数据传输速率:容易被忽略的算力瓶颈

1.11 数据传输核心器件:光模块

2. 技术创新引领本土产业链弯道突围

国产服务器CPU凭借CHIPLET布局及先进制程,实现存算一体,打破“存储墙”限制,大幅降低成本并提升效能。

2.1 服务器CPU需求增长,国化产三条发展路线

2.2 未来算力升级路径:CHIPLET、存算一体

近期CHATGPT的兴起推动着人工智能在应用端的蓬勃发展,这也对计算设备的运算能力提出了前所未有的需求。虽然AI芯片、GPU、CPU+FPGA等芯片已经对现有模型构成底层算力支撑,但面对未来潜在的算力指数增长,短期使用CHIPLET异构技术加速各类应用算法落地,长期来看打造存算一体芯片(减少芯片内外的数据搬运),或将成为未来算力升级的潜在方式 。

2.3 CHIPLET是布局先进制程、加速算力升级的关键技术

Chiplet异构技术破局先进制程封锁,大幅提升大型芯片良率、降低设计复杂与成本。尽管牺牲一定体积与功耗,但加速算力升级,助力基站、服务器、智能电车等领域广泛应用。

2.4 CHIPLET已广泛应用于服务器芯片

2.5 存算一体:打破“存储墙”限制,技术迭代演进

2.6 存算一体:更大算力、更高能效、降本增效

存算一体是将存储器和计算能力融合在一起,以新的高效运算架构进行二维和三维矩阵计算。这种技术的优势在于:

- 可以提高计算效率

- 可以通过更少的硬件实现更多的功能

- 可以减少功耗

(1)具有更大算力(1000TOPS以上)

(2)具有更高能效(超过10-100TOPS/W),超越传统ASIC算力芯片

(3)降本增效(可超过一个数量级)

中国自动驾驶与未来出行服务市场展望,2024年将达到万亿规模!百度“萝卜快跑”自动驾驶背后的创新故事令人瞩目。

-对此,您有什么看法见解?-

-欢迎在评论区留言探讨和分享。-

0 阅读:166

薪科技快评

简介:薪科技评说,发现技术的点滴,记录科学的飞跃!