从差不多五十年前,阿斯顿马丁首次尝试在车上搞出LED显示屏之始,智能座舱即以一种先驱概念形态被提上车界预研日程。此后的数十年里,关于智能座舱的好想法层出不穷,不过这些想法往往都只能出现在科幻作品里,动辄独立决策、种种黑科技加持……
而回到鲜活的现实里,智能座舱曾经所经受过的质疑与抨击,远比赞誉和支持更多。即便是智能座舱在新能源汽车当中的搭载率已经不断攀升的当下,仍有不少声音在讨论智能座舱这种东西到底是不是伪命题?是不是普通汽车加几块大屏来创造的“伪需求”?
如此尴尬的原因在于,过去绝大多数的智能座舱仍然是基于传统大制造业思路来做的东西,其本质没有逃过把音响、液晶屏、通信模块以及其它车载软硬件堆一起做简单聚合的宿命。
这种东西缺少一盘棋的全局思考,哪怕处处都是最优解,最后都缺少底层解法从根本上统筹整车功能调度、软件应用、人车交互、智能驾驶等等的东西。相对应的,也就提供不了真正意义上的好产品,这是汽车行业在共同面对的问题。
传统制造业一思考,上游行业就发笑。
借着AI的东风,智能座舱产品正在迎来一次重塑。
而最新的天玑汽车座舱平台,正是这种重塑智能座舱产品的野心体现。现在看起来,联发科依靠天玑,以绝对领先的市场份额结束了智能手机的中场战事后,明显又是要用相同的产品范式,抽身来为智能座舱这个品类按下快进键。
如果让我给智能座舱这个品类下个定义,我觉得初期的智能座舱应该等同于显示和控制,1.0时代的智能座舱开始尝试杂糅车联网、简单娱乐、语音交互等等的东西。而到了眼下的2.0时代,各自传感器为座舱带来的感知能力,则成为了新的命题。
然后呢?
然后是近几年AI大模型开始引领整个行业发生新的转向。
懂得都懂,AI究竟能创造什么价值以及价值几何,是与具体的落地场景有关,而具体的场景越垂直,它的发挥空间也就越大,越有机会和AI共融。智能座舱恰恰符合AI的这一重价值定义。另一方面,用户遥望许久的科幻作品中的智能座舱,也需要AI来主导。
产业大势与用户需求恰好碰撞在一起。
在此背景下,最新的天玑汽车座舱平台也就应运而生。
实际上,最新的天玑汽车座舱平台其实也就已经越过了2.0时代,它面向的是次世代。
从产品思路上看,天玑汽车座舱平台其实是跳出了传统的服务于简单拼乐高式的“硬件集合体”路线,而是出于整体性考量,把自己变成“座舱大脑”,提供堪比“交钥匙”的方案,比如内建好调制解调器、5G T-BOX、双频 Wi-Fi、蓝牙和全球导航卫星系统,还可内建旗舰级的 HDR ISP影像处理器以及配套算法,也支持一芯多屏,还整合进音频DSP。
也就是说,天玑汽车座舱平台能让车端的摄像头、各种感知硬件和长短记忆模块和云端的基础设施、AI大模型串联在一起,让自己从单纯的人车交互介质,变成统一协同软硬件的大脑,这就有效避免了传统智能座舱硬件各自为战的问题,让整个车舱都能接收、执行同源的指令,提供全方位的服务。
我觉得,客观角度来看,天玑汽车座舱平台绝对是一个智能座舱一体产品体系的重要组成部分,拥有很现实的意义。它既可以接受AI云的大模型赋能,又和驾驶能力联动实现“驾舱一体”,它会是一台汽车的软硬件能被整合在一起得到充分调动的决策大脑以及连接器。
它做所搭建的是为车企赋能、提高产品竞争力的全栈体系。
而且,和手机上的天玑相同,汽车座舱当中的天玑平台最不需要担心的也是算力。
最新的天玑汽车座舱平台CT-X1、CT-Y1和CT-Y0均整合了Armv9 架构,内建AI计算单元和端侧生成式AI。其中采用3nm制程工艺的CT-X1 拥有强悍的旗舰级算力,支持130亿参数的端侧大模型,性能高于行业旗舰水准至少20%以上,而采用4nm工艺的CT-Y1,则刚好战平了行业旗舰水准的芯片,如此卓越的算力提升,是联发科让AI为汽车赋能的最坚实底座。
这是什么概念?
即便是十分强调算力的手机,也不是所有的手机SoC都能带的动端侧大模型。对于大语言模型而言,反映硬件算力的维度主要是first latency(首个token生成的时间,一般单位是毫秒;可以简单理解成你发出指令后,模型要反应多久才开始响应工作)与after latency(其后的平均token生成速率,单位ms/token;比如模型回复时,打字的速度、读图的速度)。
要知道,大语言模型 inference的过程存在很多不可控的变量,而作为彻底接管手机的系统枢纽,该如何让这些不可控的变量变成可控的定量,其实都是更值得关心的问题,它们也是会决定用户体验的至关重要的因素。
如文本总结,一般输入的Prompt+Content很长,假设输入长度是2K,1B在第三代骁龙8上大概可以做到40Token/s,如果做问答、意图理解,Prompt+Question比较短,可用7B模型,大概10-12 Token/s,Int4量化。
目前基于SOC对大模型做极致的性能优化,主要受制于DRAM带宽,因为每预测一个Token,需要从DRAM中至少加载一次模型,而模型的计算强度远小于旗舰处理器的计算强度,可推出此性能上限≈ DRAM有效带宽/模型体积。
以LPDDR5X为例,峰值达到68GB/s,有效带宽一般是70%-80% x 带宽峰值,7B模型经过int4量化后大概3.5GB(LLaMA和Bloom参数量不一样,量化后体积可能有差异),所以推理性能差不多就是0.7x68 /3.513.6 Token/s.这个上限一般很难达到。
因为除Matmul算子以外的其他算子也会有耗时,占比大概5%-10%,所以差不多可以做到12Token/s,如果再结合Medusa Heads或者Speculative Decoding,推理性能有机会提升1-2X,20Token/s是可能的。
这方面也正是联发科的优势之处,它能够在现有的平台上很多针对性的产品定义(手机端我最熟悉的天玑9300其实也是典型),比如集成专为生成式 AI而设计的模块,内置硬件级的生成式 AI 引擎,甚至还能针对目前大语言模型常用的 Transformer 进行算子加速。
目前流行的大语言模型,其主要核心网络架构大多是由 transformer Block 组成的。相较于计算机视觉常见的 CNN 网络,transformer 网络以 Softmax+LayerNorm 算子作为核心,卷积算子较少,因此原先 AI 核心的加速机制并不适用。在联发科体系的APU 处理器上,联发科能够着重优化 Softmax+LayerNorm算子以提升算力。
量化是目前优化 AI 推理的有效方式之一。基于亿级参数大语言模型特性,联发科很早就能通过混合精度 INT4 量化技术,结合其特有的内存硬件压缩技术 NeuroPilot Compression,可以更高效地利用内存带宽,减少 AI 大模型对终端内存的占用。
一般而言,本地运行 13B 的体量就意味着需要占用约 13GB 的内存,再加上系统本身的内存、 APP内存,其实很多时候都已经超过了大多数车机内存容量。联发科早就为之使用过内存硬件压缩技术,我们也早就见识过联发科通过量化和压缩把大模型的内存占用降低到了 5GB,让更多的车机跑得起端侧大模型应用。
也就是说,无论在理论还是实践上,天玑汽车座舱平台,都支持你在车内运行多种主流的大语言模型(LLMs)和 AI 绘图功能(Stable Diffusion),基本是为AI大模型而生。
自此也不难看出,作为联发科提供的产品,天玑汽车座舱平台天生就有AI顶层设计理念,某种程度上算是这个行业的“新物种”。
同时,它在全力发挥自己的最大优势——利用其在整个产业链路的特殊角色,联发科可以从底层入手,帮助座舱建立一个让AI贯穿全场景的智能生态,或者说是一个“生活空间”,相当于一部永远处于顶配的“智能手机”。
最典型的是在安全性方面,天玑汽车座舱平台已经能提供很多领先的方案,可以为驾驶员解决一系列安全痛点。
比如,支持车外 360 度环视、行车记录和座舱内监测看护等功能,更好地服务于道路交通安全。
再比如,支持基于3D 图形界面的车载语音助手、多屏互动与显示技术、驾驶警觉性监测等AI安全应用,这些典型在汽车端侧运行不仅能提高安全性,还享有高响应速度和低延迟等优势。
对于智能汽车这样的技术密集型产业来说,车企要想形成竞争优势就必须提升技术深度。我认为越来越多的车企会开始注意到联发科的价值。
无论是手机血海战争当中的大份额占比领先者,还是作为智能汽车时代的通用人工智能核心供应者,联发科都是极度稀缺且重要的角色。显然,融入联发科,产品体系也就更容易紧随AI发展趋势,更快占据AI制高点,把前沿技术转化为产品力。
具体来说,在联发科可落地的创新力面前,无论是新能源造车新势力还是传统汽车巨头们,都可以有的放矢,更可以联发科平台上汇聚核心技术,利用联发科提供的底层配套基础设施实现共赢,而在关键组件和智能化系统上发挥各自长项。
与其说是汽车座舱使用天玑汽车座舱平台,不如说是联发科在组建一个覆盖产业链各个环节的创新联盟。日拱一卒,帮助汽车行业继续在快车道疾驰。
这正如MediaTek资深副总经理游人杰所说:“天玑汽车平台在市场中保持持续增长的势头,其中天玑汽车座舱平台全球市场出货量已超 2000 万套,天玑汽车联接平台更获得全球头部汽车制造商采用。承袭 MediaTek 天玑在移动市场领先的 AI 技术与强劲算力,将促进生成式 AI 更快地进入智能汽车。天玑汽车致力于为业界打造最先进的车用计算芯片,提供易于拓展的软硬件平台、成熟的工具链和丰富的生成式 AI 生态,有助于汽车制造商将 AI 功能快速部署到全系车型,推动汽车产业迈入‘AI 定义座舱’的新时代。”
不难预见,天玑汽车座舱平台是联发科的关键一役,也是联发科朝汽车领域亮出肌肉的高光时刻。有理由相信,汽车历史又走到了值得浓墨重彩的关键时间节点。
就如同今天的天玑在智能手机行业风卷残云一般,而通往未来的智能汽车升级探索,大概率会由天玑这类“新势力”来完成,沉寂许久的智能座舱平台竞赛圈,事实上也已经在面临洗牌,甚至是格局推倒重来,这无法不让人期待。