高通孟樸:终端与云紧密结合,推动生成式AI规模化扩展

惠卿科技说 2024-07-07 14:07:57

最近, 2024世界人工智能大会暨人工智能全球治理高级别会议在上海盛大开幕,本次大会在展览规模、参展企业数、亮点展品数、首发新品数均达历史最高,其中展览面积超过5.2万平方米,汇聚了中国移动、阿里巴巴、特斯拉、高通、微软等500多家国内外参展企业,展示了一系列智能终端、大模型、“人工智能+”创新应用等最新成果,推动人工智能惠及各行各业以及广大的消费者。

近年来,生成式AI的兴起为人工智能技术普及应用带来了新的契机,然而,目前生成式AI主要在云端运行,大模型训练与推理所需要的巨大成本影响了AI的快速普及。根据摩根士丹利的数据,每一次生成式AI搜索的成本是传统搜索方式的10倍,如果每天有超过100亿次的搜索查询产生,即便基于大语言模型的搜索仅占其中一小部分,每年增量成本也可能达到数十亿美元。

在本次大会全体会议产业发展主论坛上,高通公司中国区董事长孟樸发表演讲时谈到,当前生成式AI的研发和应用主要集中在云端,并且云计算仍将发挥重要作用,不过如果将20%的生成式AI工作负载转移到终端侧,预计到2028年将节省160亿美元的计算资源成本。他认为,终端与云端的紧密结合,将成为推动生成式AI规模化扩展、加速数字化转型的关键所在。同时,为了推动生成式AI的广泛应用,我们也需要将其能力延伸到日常使用的智能设备上,如智能手机、移动PC和智能网联汽车等。

随着生成式AI从云端扩展到终端,特别是消费者对于生成式AI服务品质的要求越来越高,势必对终端设备的AI处理能力提出考验。作为全球领先的无线科技创新者,高通长期为智能手机等终端提供连接、计算等方面的先进技术,在提高计算性能的同时也注重降低功耗,不断推动高性能低功耗计算领域的技术创新。孟樸表示,如今的智能手机拥有比2000年的超级计算机更强的计算能力,而且其能耗甚至比一个LED灯泡还要低。这种技术进步在确保性能的同时,能延长电池寿命并提高能效,使仅靠电池供电的移动终端也能随时随地运行生成式AI。

公开信息显示,高通专门为AI PC打造的骁龙X Elite平台,拥有高达45 TOPS算力的NPU,并且,骁龙X Elite平台的NPU还有出色的能效表现,每瓦特性能是竞品的2.6倍到5.4倍。 此外,高通推出的第三代骁龙8移动平台也集终端侧智能、顶级性能和能效于一体,可以在手机上运行拥有100亿参数的生成式AI模型。并且,高通已经将生成式AI处理能力扩展到第三代骁龙8s、第三代骁龙7+等多个移动平台上,有助于生成式AI在更多不同层级的智能手机普及应用。

生成式AI的发展涉及到产业链多个环节,包括终端设备厂商、大模型厂商、应用服务提供商、开发者等,其普及应用离不开产业各方的共同努力。高通在不断推动技术创新的同时,也注重与不同行业的合作伙伴深入合作,推动AI等创新技术的落地应用。其中在智能手机行业,目前已经有超过20款搭载第三代骁龙8的旗舰手机产品发布,支持丰富的生成式AI用例;在个人电脑(PC)行业,高通携手微软和众多生态伙伴,已推出超过20款由骁龙X系列独家支持的首批Windows 11 AI PC,为用户带来全新的AI体验;在汽车行业,多家中国车企已基于骁龙8295发布了车端大模型功能,进一步改善用户驾乘体验。

根据麦肯锡的报告,生成式AI每年将为60多个用例,在全球范围内带来2.6万亿至4.4万亿美元的经济效益增长。这也意味着,生成式AI的广泛应用将为各行业参与者带来新一轮发展机遇。孟樸表示,高通公司始终秉持创新驱动的发展理念,不断推动AI研发、硬件开发和软件优化,并致力于为开发者提供全方位的支持。同时,高通也希望通过与全球合作伙伴的紧密协作,让智能计算无处不在。

0 阅读:0

惠卿科技说

简介:感谢大家的关注