中国电信发布复杂推理模型TeleAI-t1-preview:评分超o1-preview

IT之家 2025-01-25 18:22:10

IT之家1月25日消息,IT之家从中国电信人工智能研究院获悉,其“复杂推理大模型”TeleAI-t1-preview现已正式发布,即将上线天翼AI开放平台。TeleAI-t1-preview使用了强化学习训练方法,通过引入探索、反思等思考范式,大幅提升模型在逻辑推理、数学推导等复杂问题的准确性。

官方表示,在美国数学竞赛AIME2024、MATH500两项数学基准评测中,TeleAI-t1-preview分别以60和93.8分的成绩,大幅超越OpenAIo1-preview、GPT-4o等标杆模型。在研究生级别问答测试GPQADiamond中,TeleAI-t1-preview得分超过GPT-4o,并比肩Claude3.5Sonnet的性能水准。

评测显示,将《九章算术》中的一道题目给到TeleAI-t1-preview后,其能够先针对文言文进行理解和简化,再转换成现代汉语,随之给出数学推导和答案。

据介绍,在此过程中,TeleAI-t1-preview可将形象思维与抽象思维结合,对所涉及的场景进行具象化思考,辅助理解题目。不仅如此,其还能够严谨地进行古今单位换算。

TeleAI引入了创新的训练策略,从而保障思考推理过程准确有效。

数据准备阶段:收集、构建了一个以数学为核心、多学科为补充的高质量推理数据集,确保模型能够适应不同类型的推理任务。

JudgeModel(评估模型):训练了一个JudgeModel专门用于分析和评估模型长思考链路的正确性,为模型的反思和错误修正提供指导。

SFT(监督微调)阶段:用MCTS(蒙特卡洛树搜索)构造高质量长推理数据,结合每个步骤的准确率和解决方案长度来选择最优的完整路径,在保证推理答案准确性的同时有效拉长思考链路以获得更细粒度的推理过程。同时使用JudgeModel对推理过程中正确率较低的路径进行分析,引导模型对错误的推理步骤进行反思和修正,从而构造出高质量的思维链数据进行SFT训练。

强化学习阶段:额外构造了Rule-basedRewardModel(基于规则的奖励模型),以提供足够准确的奖励信号,通过在线强化学习算法进一步提升模型的逻辑推理能力。

0 阅读:1