腾讯发布新一代大模型:混元Turbo,推理效率提升100%

中关村在线 2024-09-05 14:30:57

腾讯集团在最新全球数字生态大会上发布了其新一代大模型——腾讯混元Turbo。这款新产品基于MoE(混合专家)架构设计,与前一代产品相比,在推理效率方面提升了100%,并且在推理成本上降低了50%。此外,混元Turbo的解码效率也得到了提升,达到了20%。

价格方面,混元Turbo相较于前一代产品降低了50%,售价为0.05元/千tokens,输入价格为0.015元/千tokens。

据悉,在最近发布的中文大模型测评基准SuperCLUE《中文大模型基准测评2024年8月报告》中,混元新一代大语言模型预览版(Turbo-Preview)在理科、文科均居于第一名。在Hard任务上,该模型取得了74.33分,是国内唯一超过70分的大模型,在与ChatGPT-4o进行比较时略有优势。目前,腾讯内部已有多个业务和场景开始使用混元大模型,包括腾讯元宝、腾讯云、QQ和微信读书等。同时,腾讯旗下的协作SaaS产品也已经全面接入了腾讯混元大模型。

0 阅读:4

中关村在线

简介:最新最快最全的IT头条新闻资讯