国产AI芯片崛起!大模型下沉边端,GPU之外的芯片新潮流

芯有芯的小事 2024-08-29 19:00:43

随着技术的成熟和应用场景的拓展,端侧大模型市场已经成为AI领域的一个重要增长点,但对于边端设备而言,承载大模型能力非一日之功,即便参数规模下降为大模型落地部署提供了条件,边端设备本身的硬件载体同样至关重要。

国产芯片产业的新时代

在数字化转型的浪潮中,芯片作为信息技术产业的核心,正变得越来越重要。随着全球对高性能计算、5G通信、人工智能等技术的需求日益增长,芯片产业的竞争也日趋激烈。

中国,作为全球电子产品制造的中心,对芯片的需求巨大,这也催生了国产芯片产业的快速发展。近年来,国产芯片产业取得了显著的成就。特别是在集成电路领域,中国科研团队不断取得技术突破,为产业发展注入了新的活力。

在“后摩尔时代”,当传统硅基芯片的性能提升面临物理极限时,钽酸锂光子芯片的出现,为芯片性能的进一步提升打开了新的大门。这种新型芯片以其极低的光学损耗和高效的电光转换特性,有望在通信、量子计算、光通信等多个领域发挥重要作用。

然而,国产芯片产业的发展并非一帆风顺。面对国际技术封锁和市场竞争的双重压力,中国芯片企业需要不断提升自身的技术水平和创新能力。国产芯片产业将如何进一步发展,不仅关系到中国在全球科技竞争中的地位,也将深刻影响着全球芯片产业的格局。

国内AI芯片全面崛起

2015年,国内人工智能产业如火如荼,“AI四小龙”崛起,连带着整个产业步入发展快车道。

在这波由CNN(卷积神经网络)技术引领的人工智能行业热潮之中,就有大量中国企业看到了打造国内AI芯片的重要性。

在此期间,国内陆续涌现出了近百家国内AI芯片公司,其中既有如寒武纪、地平线、壁仞科技、后摩智能等的明星创业公司,也有如华为、阿里、百度等的科技巨头,还有传统芯片厂商与矿机厂商。

各家纷纷入局,产业如烈火烹油、鲜花着锦,大家的共同目标只有一个,打造自主可控的国内AI芯片生态。

国内AI芯片玩家们早早就意识到了软件、工具、生态对于芯片的重要性,因此在不断升级迭代硬件产品之余,也投入了大量的时间、精力,试图解决软件生态建设中存在的问题。

CUDA是一个封闭的软件平台,因此,从底层开始打造原创的软件栈是打破CUDA生态壁垒的关键路线。

我国AI芯片创业公司在云、边、端等领域百花齐放,它们在各自的细分领域都有着突出的表现。以硬件架构创新和软件架构通用性见长的壁仞科技为例,BIRENSUPA软件平台是一个包括硬件抽象层、编程模型和BRCC编译器、深度学习和通用计算加速库、工具链,支持主流深度学习框架和自研推理加速引擎,配备有针对不同场景的应用SDK,是国内少有的具有完整功能架构的AI软件开发平台。

此外,面向云端AI芯片、车载AI芯片的寒武纪曾推出寒武纪基础软件平台;面向存算一体智驾芯片的后摩智能曾推出后摩大道软件平台;面向全功能GPU的摩尔线程曾推出MUSA SDK与AI软件平台;面向GPGPU的天数智芯也曾推出天数智芯软件栈等等,国内玩家可谓百花齐放。

免责声明:

1、本号不对发布的任何信息的可用性、准确性、时效性、有效性或完整性作出声明或保证,并在此声明不承担信息可能产生的任何责任、任何后果。

2、 本号非商业、非营利性,转载的内容并不代表赞同其观点和对其真实性负责,也无意构成任何其他引导。本号不对转载或发布的任何信息存在的不准确或错误,负任何直接或间接责任。

3、本号部分资料、素材、文字、图片等来源于互联网,所有转载都已经注明来源出处。如果您发现有侵犯您的知识产权以及个人合法权益的作品,请与我们取得联系,我们会及时修改或删除。

0 阅读:3

芯有芯的小事

简介:感谢大家的关注