职场人手一只AI牛马或成常态人工智能已经被讨论很多年,但很多炫目的应用依然停留在

科技超人 2025-08-29 16:50:51

职场人手一只AI牛马或成常态人工智能已经被讨论很多年,但很多炫目的应用依然停留在实验室或大厂内部,离中小企业和个人开发者的距离依然很远。

这也是为什么华为云近期推出的Tokens服务需要特别留意。Tokens是AI算力资源的计量单位,Tokens服务是把AI算力做转化为可计量的“水电”,用户无需一次性投入巨额成本,而是按需取用。这不仅降低了门槛,也让AI能力真正具备了普惠属性。

更重要的是,华为在做的是一场体系化的“硬仗”。AI的未来不会是单点创新的较量,而是系统与系统的对抗。华为云Tokens服务全面接入CloudMatrix 384超节点,配合xDeepServe架构的高效推理与调度,能够做到50ms时延的场景下,吞吐2400TPS,实现业界新高,是H20的3倍。

不仅如此,对于万亿、十万亿参数的大模型训练任务,还可以通过横向扩展方式,将432个超节点连在一起,组成一个16万卡的AI集群。如果这个集群用于训练千亿参数大模型,可以同时支持1300个。

从卖“硬件”到零售Tokens,这是华为战略的一次重要调整,以软硬协同的“大杂烩”技术优势,助推AI算力普惠,加速中国AI生态真正实现“人人可用”。

0 阅读:2

猜你喜欢

科技超人

科技超人

感谢大家的关注