AIGC掀算力需求革命,边缘计算将不再“边缘”

玩数据还有点懒 2024-08-01 20:36:44

随着以大模型为代表的AIGC时代拉开序幕,算力需求持续爆发,AI与边缘深度融合已是大势所趋,越来越多的企业开始积极布局GenAI。GenAI技术的商用化部署和应用成为企业竞逐的新阵地,勾勒出大模型从“技术力”转向“生产力”的新生态。算力就是生产力,更丰富的算力资源成为人工智能竞争的核心基石。

AI算力瓶颈下边缘计算崛起

随着AI大模型爆发,大模型迭代和训练所需的算力呈指数级增长。同时,单个AI超算规模也受到功耗、土地、散热等因素制约,算力供给与需求的缺口持续放大。

随着这场GenAI热潮逐步扩张,算力短缺已成为行业面临的共同挑战。如果说传统算力是AI大模型的筋骨,那么边缘算力就是遍布全身的神经系统。英伟达指出,为了有效运用算力达成AI应用目标,大规模数据中心势必要增加资本支出以扩大云端运算效能,同时也将带动边缘设备的销售。

在AI向实际场景落地的过程中,边缘算力的重要性将加速凸显。未来的AI运算将呈现出“训练与迭代在云端、推理与内容生产梯度分布(云侧+雾侧+边缘侧)”的格局变化,边缘算力有望成为AI算力的重要组成部分。

相较于传统云端,边缘计算作为一种分布式计算架构,具有低延迟、高安全性、高可靠性、保护用户隐私等优势,其在实时决策在自动驾驶、医疗保健、金融、制造等各个领域都至关重要。

从效率方面看,边缘计算使GenAI模型能够在边缘处理数据,从而显著减少延迟并实现更快洞察。这意味着可以实时做出关键决策,从而提高运营效率、增强客户体验和更好的整体业务成果。

其次,通过利用边缘计算,企业可以在边缘设备网络上分配计算负载,从而优化资源利用率并有效扩展。这种方法最大限度地减少了集中式云基础设施的压力并优化了带宽使用,从而节省了成本并提高了性能。

第三,通过边缘计算,GenAI模型可以直接在边缘设备或本地服务器上运行,最大限度地减少将敏感数据传输到集中式云服务器的需要。

从关系上看,边缘计算并不寻求取代云计算,相反是对其重要的补充。边缘计算和云之间的协作可实现混合架构,最大限度地发挥两种范式的优势。

GenAI模型可以利用云的可扩展性和存储功能,同时受益于边缘设备的低延迟和本地处理能力。这种融合确保了GenAI采用的多功能且适应性强的基础设施。

AI向边缘延伸,中国大模型加速产业变革

当下,半导体技术正在推动几乎所有行业的转型。在算力需求的驱动下,预计到2030年,全球半导体市场规模将达到1万亿美元。英特尔市场营销集团副总裁兼中国区总经理王稚聪指出:“其背后主要的驱动力还是来自于全球各行业的数字化转型以及人工智能结合的新机会。”

去年,中国经济进入了一个新旧动能转换,寻求高质量发展的道路。以生成式AI为代表的新质生产力正在重塑各行业的增长。中国AI大模型在全球范围内展现出强劲的发展势头,全球人工智能大模型的数量已达1328个,中国占比36%,中国的大模型占全球的1/3以上。

IDC报告显示,2024年中国AIGC市场的规模将达到33亿美元,到2027年会迎来大规模发展,达到130亿美金。2022到2027年五年生成式AI的复合年增长率达到86.2%。

免责声明:

1、本号不对发布的任何信息的可用性、准确性、时效性、有效性或完整性作出声明或保证,并在此声明不承担信息可能产生的任何责任、任何后果。

2、 本号非商业、非营利性,转载的内容并不代表赞同其观点和对其真实性负责,也无意构成任何其他引导。本号不对转载或发布的任何信息存在的不准确或错误,负任何直接或间接责任。

3、本号部分资料、素材、文字、图片等来源于互联网,所有转载都已经注明来源出处。如果您发现有侵犯您的知识产权以及个人合法权益的作品,请与我们取得联系,我们会及时修改或删除。

0 阅读:0

玩数据还有点懒

简介:感谢大家的关注