锐捷网络:AI智算中心可应用于大模型训练及推理场景
金融界2月10日消息，有投资者在互动平台向锐捷网络提问：请问董秘，公司的智算中心及超算中心产品能否同时应用于大模型的训练及推理。公司是否在持续推进数据中心更高效节能，谢谢！公司回答表示：公司的AI智算中心网络解决...
DeepSeek 推理型AI尽显高效训练的小模型之威
去年9月，当OpenAI预览其o1推理模型时，推理模型成为热门话题。与以往只给出答案而不解释推理过程的人工智能模型不同，它通过将复杂问题分成几个步骤来解决。推理模型可能需要多花几秒或几分钟来回答问题，因为它们会一步一步...
Kneron 突破性 AI 技术:实现“思维链推理”与“自我反思”
松果财经讯，近日，Kneron宣布其自研LLM模型成功掌握“思维链推理(Chain-of-ThoughtReasoning)”和“自我反思(Reflection)”能力，并已部署于Kneo300和Kneo330AI一体机。这一突破性技术使AI能够像人类一样逐步拆解问题、进行...
中信证券:DeepSeek的低成本特性降低了企业准入门槛,推理端需求大幅增长有望推动国产AI芯片在推理场景的应用
中信证券认为，DeepSeek的低成本特性（训练成本仅为行业巨头的3%-5%）降低了企业准入门槛，推理端需求大幅增长有望推动国产AI芯片在推理场景的应用，一定程度上减少对海外硬件的依赖。华为昇腾作为国产AI芯片龙头，过去已通过...
你以为的DeepSeek推理,可能只是文字魔术
最主要的疑虑是大家最津津乐道的DeepSeek每次回答时首先呈现的思考和推理过程，我在反复测试后，怀疑这并不是它真实的思维和推理过程，而是内部设定了结构化输出，每次都强制它这样回答，也就是说这个 所谓的推理过程，其实是...
瓴羊智能客服产品接入DeepSeek,复杂推理与多场景适配能力进一步提升
近日,瓴羊旗下智能客服产品QuickService完成DeepSeek大模型的接入,通过DeepSeek的强大推理能力与瓴羊的智能客服解决方案相结合,进一步提升复杂问题推理和多场景适配方面的能力。截至目前,瓴羊智能客服QuickService已支持多家...
深度推理,精准税务:罗格科技推出基于DeepSeek的AI税务模型
2025年2月8日，罗格科技宣布发布其基于DeepSeek推理模型的全新税务大模型。该模型将有效提升企业税务管理的智能化水平，帮助企业更高效、准确地应对复杂税务问题。不仅充分发挥了DeepSeek模型的推理优势，还充分融入了罗格·...
《大侦探·拾光季》开播,走到第十年的推理综艺鼻祖还在创新
这也让人感叹，走过十年的《大侦探》系列节目始终还保持着高质量高水准，深耕剧本创作的节目组一直以丰富多元的题材、巧妙精巧的结构、立体饱满的人物塑造以及平衡推理与娱乐的特点，为观众带来新的故事惊喜。作为《大侦探》...
推理团与NPC双向成就,这档推理综艺将女性魅力具象化
本周，芒果TV首档全女性剧式沉浸推理节目《女子推理社2》正式收官。戚薇、张雨绮、李一桐、李雪琴、田曦薇、张艺凡六位“好好好推理社”成员凭借聪明才智以及勇敢和“黑暗势力”作斗争的勇气，终于圆满完成了T.W.O酒店的“卧底...
巧妙融合推理探案与法治教育,《大侦探·拾光季》创新开启“普法课堂”
互联网普法教育推理节目《大侦探·拾光季》近日在芒果TV播出，首期节目中，嘉宾何炅、张若昀、大张伟、王鸥、魏晨、杨蓉、吴昕遭遇一场短剧拍摄现场突发的“凶案”，在共同探究真相的过程中开启了一场悬疑与思辨交织的案件推理...
烽火通信长江计算 G440K V2 服务器实现 DeepSeek 推理适配和优化
IT之家2月7日消息，烽火通信科技股份有限公司今日发文宣布，旗下长江计算近日联合昇腾、华为云团队成功助力某国有大行完成DeepSeek-V3大模型的 本地化推理服务部署。本次部署使用 长江计算G440KV2服务器，基于MindIE推理引擎，...
成都华微:全力推进DeepSeek R1推理模型在端侧推理芯片部署
成都华微官微2月7日消息，近日，成都华微正在全力推进DeepSeekR1推理模型在端侧推理芯片部署，这一举措将为边缘和端侧AI应用的商用落地奠定坚实基础。
梅安森:通过本地化部署推理模型大幅降低硬件投入成本
公司回答表示：公司通过将模型训练与推理分离处理，实现在边缘端进行推理的本地化部署，避免了构建大规模算力中心的需求，从而大幅减少硬件投入成本，同时提升效率。公司未来将不断深入了解客户需求，积极拓展销售，提升公司...
全栈国产化实现自主可控,科大讯飞深度推理模型星火X1再迎升级
证券之星注意到，科大讯飞将在一个月内对其1月15日发布的基于全国产算力训练的深度推理模型星火X1，再次进行重大版本升级，这无疑给国产大模型发展再次注入了一剂强心针。据了解，星火X1表现最突出的是中文数学能力，目前已...
DeepSeek“卡爆了”如何解决?多家国产算力厂商已适配,主要面向推理
壁仞科技工作人员对《每日经济新闻》记者表示：“DeepSeek有结构上的微创新，但是还是LLM（大语言模型），所以推理适配起来并不难。DeepSeek火热带来庞大推理算力需求 根据中信建投研报，DeepSeek的网页端访问量，从2024年10月...
《女子推理社2》圆满收官,女性群像的魅力在此具象化
2月4日，芒果TV推理综艺《女子推理社2》正式收官。戚薇、张雨绮、李一桐、李雪琴、田曦薇、张艺凡六位成员凭借聪明才智以及勇敢和“黑暗势力”作斗争的勇气，终于圆满完成了T.W.O酒店的“卧底”任务。《女子推理社》的诞生既...
推理团与NPC双向成就,《女子推理社2》收官
2月4日，芒果TV全女性剧式沉浸推理节目《女子推理社2》收官。戚薇、张雨绮、李一桐、李雪琴、田曦薇、张艺凡六位好好好推理社成员凭借聪明才智和勇气，圆满完成了T.W.O酒店的“卧底”任务。在“铁子组合”氛围拉满的开场主持下...
海康威视申请基于大模型的推理方法及相关设备专利,提高推理效率
基于更改部署方式后的所述预设大语言模型的推理量化流程，对所述目标图像数据进行推理量化得到推理量化结果其中所述更改部署方式后所对应的推理量化流程比更改部署方式前推理量化流程的计算量更小。本申请使用计算量更小的推理...
长亭科技申请多个异构模型协同推理专利,提高整体推理性能和效率
专利摘要显示，本发明公开了一种多个异构模型协同推理的方法及装置，涉及人工智能推理预测技术领域，方法包括：接收客户端提交的推理请求和提示词；根据推理请求的上下文信息和预设条件，选择多个匹配的异构模型同时进行Token...
济南浪潮数据申请推理服务确定专利,解决相关技术中无法确定合适推理服务的问题
专利摘要显示，本申请实施例提供了一种推理服务的确定方法、系统、存储介质及电子设备，包括：接收请求发送方发送的推理请求，其中，所述推理请求用于请求所述推理服务执行所述推理请求的请求内容；响应于所述推理请求，获取多...
面壁智能申请一种数据处理方法专利,提高模型推理灵活性
为提高模型推理的灵活性，使推理效果更好而发明。该方法包括：获取模型推理源数据和模型源参数；基于所述模型推理源数据和模型源参数，从两个以上的神经网络模型中确定基于所述模型推理源数据和模型源参数进行数据处理的目标...
京东科技申请模型剪枝专利,提高网络模型推理速度
对所述待剪枝网络模型执行剪枝操作得到剪枝网络模型，本发明实施例解决了传统的剪枝评估算法准确度不高的问题，在保证剪枝后的网络模型的模型性能的同时，尽可能提高了剪枝后的网络模型的推理速度。天眼查资料显示，京东科技...
山姆·奥特曼谈DeepSeek推理模型R1:有新竞争对手加入令人振奋
1月28日，OpenAI首席执行官山姆·奥特曼在社交平台X发文称，DeepSeek的推理大模型R1是一款令人印象深刻的模型，尤其是考虑到其性价比。显然，我们会推出更出色的模型。有新的竞争对手加入，着实令人振奋。“但最重要的是，我们...
苏州元脑申请张量拆分结果验证专利,可提高 int4 量化模型张量并行推理开发效率
基于解析结果，确定深度学习模型的第一推理结果，并基于第一推理结果和第二推理结果，对张量拆分结果进行验证，第二推理结果为基于未进行权重张量拆分处理的深度学习模型确定的推理结果。本申请可以有效地提高int4量化模型张量...
有道子曰推理模型“子曰-o1”发布即开源,14B小参数复现OpenAI o1强推理效果
根据我搜索到的资料，网易有道于2025年1月22日正式发布了国内首个输出分步式讲解的推理模型“子曰-o1”，并宣布其开源。这一模型以14B（140亿）参数规模为基础，支持在消费级显卡上部署，采用思维链技术，能够提供详细且逻辑...
指认凶手动画代入感拉满!太空杀&柯南联动推理剧场不可错过
对这类经典侦探作品，想必相当一部分人对柯南的印象都是在一个比较密闭的空间或者场景，在目暮警官还没有到来的时候，众人就在一片混乱之中展开推理… 所以要论联动，这样的场景可太适合狼人杀类的游戏了，《太空杀》也确实是...
“推理界春晚”来了,《大侦探·拾光季》定档大年初八
芒果TV普法教育推理节目《大侦探·拾光季》定档官宣，节目将于2月5日（大年初八）起，每周三周四12点双更上线。何炅、张若昀、大张伟、王鸥、魏晨、杨蓉、吴昕组成的7位首发阵容将带领大家开启智慧与悬疑交织的推理盛宴。此外...
电视剧《驻站》番外！故事继续，剧中主要人物命运大推理！电视剧《驻站》完美收
故事继续，剧中主要人物命运大推理！电视剧《驻站》完美收官，然而，观众仍然意犹未尽。假如故事还有后续，那么剧中几个主要人物，还会怎样演绎他们人生精彩的故事？大家猜一猜，我先来。王冬雨： 如愿考上了市场营销专业的...
中国AI公司DeepSeek-R1横空出世!推理能力碾压OpenAI,硅谷巨头慌了!
2025年1月，全球AI圈迎来了一场“地震”—中国AI公司DeepSeek凭借其最新发布的推理模型DeepSeek-R1，直接挑战OpenAI和Meta的霸主地位！短短一周内，DeepSeek-R1的下载量超越了ChatGPT，硅谷巨头们慌了！这款模型不仅推理能力炸...
预定最强 AI:xAI Grok-3 有望下周登场,推理性能超 OpenAI o1
IT之家1月27日消息，科技媒体testingcatalog今天（1月27日）发布博文，报道称xAI官方虽然尚未公布，但Grok-3已短暂现身独立平台和X平台，开启内部测试，有望下周正式发布。测试结果显示其在回答问题方面表现出色，甚至超越了o1...
中国电信发布复杂推理模型TeleAI-t1-preview:评分超o1-preview
IT之家1月25日消息，IT之家从中国电信人工智能研究院获悉，其“复杂推理大模型”TeleAI-t1-preview现已正式发布，即将上线天翼AI开放平台。TeleAI-t1-preview使用了强化学习训练方法，通过引入探索、反思等思考范式，大幅提升...
星环信息科技申请一种模型推理的请求管理专利,解决模型推理中请求调度不合理的问题
在模型推理服务执行请求调度时，从建议缓冲队列中读取调度建议，并根据调度建议结合模型推理服务的调度决策确定目标调度决策，根据目标调度决策控制模型推理服务调度相应的请求执行模型推理，解决了模型推理过程中请求调度不...
密切跟进OpenAI,国产o1类推理模型陆续登场
根据DeepSeek披露的测试结果，它在数学、代码、自然语言推理等任务上与OpenAI-o1-1217基本持平，尤其在AIME2024（美国数学邀请赛）、MATH-500、SWE-BenchVerified（软件开发领域测试集）三项测试集上以微弱优势取胜。作为对R1...
刚刚,阶跃星辰发布Step R-mini!推理模型从此不再文理偏科
这是阶跃星辰 Step 系列模型家族的首个推理模型。类似 OpenAI o1 的推理模型在国内终于卷起来了。刚刚，国产大模型「六小虎」成员阶跃星辰发布了最新一代模型—Step Reasoner mini（简称「Step R-mini」）。这是阶跃星辰 Step ...
推理融入旅行,《名侦探的假期》马耳他收官
1月22日，芒果TV轻推理旅行团体综艺《名侦探的假期》“侦”朋友的演唱会上线。何炅、张若昀、大张伟、王鸥、魏晨、杨蓉、吴昕七位嘉宾组成的Habibi团在马耳他举办“侦”朋友之夜，邀请在这趟旅程中结识的新朋友共同聚会。...
中正恒宇申请推理方法相关专利,加快推理结果的生成
金融界2025年1月22日消息，国家知识产权局信息显示，中正恒宇智能科技（天津）有限公司申请一项名为“推理方法、装置、电子设备及计算机可读存储介质”的专利，公开号CN119272881A，申请日期为2024年12月。专利摘要显示，本...
灵汐科技申请内容生成相关专利,提高推理速度
专利摘要显示，本公开提供了内容生成方法及装置、电子设备、计算机可读存储介质，该方法包括：基于网络模型，生成待生成任务的目标内容，其中，所述网络模型通过多步的推理生成所述目标内容，多步的推理过程包括：基于第一稀疏...
有道子曰-o1推理模型正式发布
据网易有道官微消息，1月22日，有道正式推出国内首个输出分步式讲解的推理模型“子曰-o1”，并正式开源。据介绍，作为14B轻量级单模型，子曰-o1支持在消费级显卡上进行部署，采用思维链技术，能够提供细致解题过程，以强逻辑和...
夜袭」OpenAI!DeepSeek 开源最强推理模型 R1,再震欧美同行
1 月 20 日晚，DeepSeek（深度求索）公司发布推理模型 DeepSeek-R1 正式版，同步开源模型权重，并允许用户利用模型输出、通过模型蒸馏等方式训练其他模型。网友热评：这，才是真正的OpenAI。能力相当于一个月 200 美元的 ...
“DeepSeek接班OpenAI”R1推理模型让AI圈爆了
昨晚，大模型领域再次“热闹起来”，月之暗面发布在数学、代码、多模态推理能力层面全面对标OpenAI的满血版o1的多模态思考模型K1.5。而最近大热的DeepSeek正式推出了DeepSeek-R1，同样在数学、代码和自然语言推理等任务上比肩...
月之暗面发布Kimi k1.5多模态思考模型:SOTA级多模态推理能力
IT之家1月20日消息，月之暗面今日宣布推出Kimi全新SOTA模型—k1.5多模态思考模型，其实现了SOTA（state-of-the-art）级别的多模态推理和通用推理能力。官方表示，在short-CoT模式下，Kimik1.5的 数学、代码、视觉多模态和通用...
奥尔特曼:OpenAI将在几周内推出o3 mini推理AI模型
当地时间周五（1月17日），人工智能（AI）研究公司OpenAI首席执行官奥尔特曼表示，OpenAI已完成其新推理AI模型o3mini的版本，并将在几周内推出。奥尔特曼周五在社交媒体平台X上宣布了这一消息，他表示，公司考虑了用户的反馈...
阿尔特曼爆猛料:超快推理模型o3-mini预计几周内上线,GPT系列或与o系列合并!专家猜测GPT-5也许永远不会公开...
据他透露，最新的o3-mini推理模型预计将在几周内正式推出。他强调，o3-mini的表现“非常出色”。除此之外，阿尔特曼在回网友提问时表示，希望在2025年将GPT系列和o系列合并。也许，一个结合GPT系列的强大语言理解能力和o系列的...
华为云计算申请感知任务的执行方法相关专利,可实现对多种不同任务分布的感知数据有效推理
多任务模型包括K个参数分离模型分支，K个参数分离模型分支分别用于推理K类任务分布下的感知数据，云端向边端发送多任务模型和L个平均任务分布表征。边端基于待推理感知数据的任务分布表征和L个平均任务分布表征，选择待使用的...
英特灵达申请VIT模型训练、图像分类方法专利,提高VIT模型推理效率
应用本发明实施例提供的方案能够提高VIT模型的推理效率。天眼查资料显示，英特灵达信息技术（深圳）有限公司，成立于2018年，位于深圳市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本274.4483万人民币，实缴...
苏州元脑申请推理服务评估方法专利,能够收集真实流量数据评估待评估推理服务
所述方法包括：收集各推理服务的推理数据，并利用所述推理数据构建数据池，其中所述推理数据为用户的真实流量数据；获取待评估推理服务，并从预设评估指标池中确定目标评估指标，所述目标评估指标至少包括一个主指标；根据数据...
上海惠灏申请一种数据结构化的大模型训练及推理方法专利,能够细化数据结构化结果粒度
金融界2025年1月18日消息，国家知识产权局信息显示，上海惠灏一生信息科技有限公司申请一项名为“一种数据结构化的大模型训练及推理方法、装置、设备”的专利，公开号CN119312920A，申请日期为2024年9月。专利摘要显示，本发明...
北京百度网讯申请模型训练和推理相关专利,提升模型训练效率
金融界2025年1月18日消息，国家知识产权局信息显示，北京百度网讯科技有限公司申请一项名为“模型训练方法、模型推理方法及其装置、设备”的专利，公开号CN119312915A，申请日期为2024年9月。专利摘要显示，本公开提供了模型...
百度申请推理数据的确定方法专利,获得多媒体推理数据库
金融界2025年1月18日消息，国家知识产权局信息显示，北京百度网讯科技有限公司申请一项名为“推理数据的确定方法、装置、设备以及存储介质”的专利，公开号CN119312914A，申请日期为2024年9月。专利摘要显示，本公开提供了推理...
广东明创申请神经网络模型端侧推理专利,提高了推理的有效精度
金融界2025年1月18日消息，国家知识产权局信息显示，广东明创软件科技有限公司申请一项名为“神经网络模型端侧推理方法、装置、电子设备及存储介质”的专利，公开号CN119312909A，申请日期为2023年7月。专利摘要显示，本申请...
上海稀宇极智申请一种大语言模型训练、推理方法及装置专利,能使大语言模型在面对输入数据遗漏或缺失时依然...
专利摘要显示，本发明公开了一种大语言模型训练、推理方法及装置。所述大语言模型训练方法包括：获取训练数据集；其中，所述训练数据集中包含至少两个训练样本数据组，每个所述训练样本数据组由对应的至少两种数据组成；从所述...
华为申请道路要素之间关联关系的确定方法专利,提升当前道路要素关系推理水平
该手段，通过将当前道路要素与道路先验信息进行关联，能够借助道路先验信息作为桥接，提升当前道路要素关系推理的水平。同时，通过推理当前道路要素与道路先验之间的关系，能够构造冗余关系，便于对当前道路要素关系进行校检，...
浪潮电子申请一种数据处理专利,提升模型推理性能和效率
若接收到模型推理请求，则将模型推理请求的预处理阶段的上下文信息存储至第一缓存区；基于第一缓存区中的上下文信息，执行模型推理请求的解码阶段中的各个解码操作；其中，将前一解码操作的上下文信息存储至第二缓存区，基于第...
中信建投申请一种针对大模型推理请求的资源调度方法及装置专利,实现优化服务器集群中服务器的计算资源的...
专利摘要显示，本发明实施例提供了一种针对大模型推理请求的资源调度方法及装置，涉及计算机技术领域，该方法应用于服务器集群中的调度服务器，服务器集群还包括多个目标服务器，每一目标服务器均部署有多个大模型，该方法包括...
硅动科技申请大语言模型的任务调度专利,提高大模型的推理效率
本公开实施例可以提高大模型的推理效率。天眼查资料显示，北京硅动科技有限公司，成立于2023年，位于北京市，是一家以从事科技推广和应用服务业为主的企业。企业注册资本1375.769万人民币，实缴资本5.2632万人民币。通过天眼查...
OpenAI将于几周内推出o3 mini推理AI模型
三言科技1月18日消息，OpenAI首席执行官SamAltman当地时间1月17日在社交媒体平台X上的一篇文章中表示，已完成新推理AI模型o3mini版本，并将在几周内推出。
OpenAI CEO 萨姆·阿尔特曼宣布 o3 mini 推理 AI 模型即将发布
1月18日，OpenAICEO萨姆·阿尔特曼通过社交平台发布消息，透露OpenAI已完成新推理AI模型o3mini版本的开发，并计划在几周内推出。根据阿尔特曼的说法，o3mini是OpenAI推理模型o3系列中的精简版本，针对特定任务进行了优化微调。...
OpenAI:将在未来几周推出o3 mini推理模型
OpenAICEO萨姆•阿尔特曼今日在某一平台（X）上宣布了一项重要进展：OpenAI已成功研发出新一代推理AI模型—o3mini版本，并计划在不久的将来，即几周内，正式推出该模型。此次发布将涵盖API接口和ChatGPT选项，旨在使高级推理AI...
OpenAI 阿尔特曼:计划几周内推出 o3 mini 推理模型
IT之家1月18日消息，OpenAICEO萨姆・阿尔特曼今日在X上发文称，OpenAI已完成新推理AI模型o3mini版本，计划在几周内推出，包括API和ChatGPT选项，让高级推理AI更易用且实惠。在去年的12DaysofOpenAI活动上，OpenAI的o3系列大...
OpenAI将于几周内推出o3 mini推理AI模型
当地时间1月17日，OpenAI首席执行官SamAltman在社交媒体平台X上的一篇文章中表示，已完成新推理AI模型o3mini版本，并将在几周内推出。（第一财经记者钱童心）
景嘉微:公司景宏系列高性能智算模块及整机产品可面向AI训练、AI推理和科学计算等领域应用
公司回答表示：公司景宏系列高性能智算模块及整机产品可面向AI训练、AI推理和科学计算等领域应用。未来公司将持续瞄准GPU在人工智能领域的应用方向，加强在高性能图形处理领域和高性能计算领域的技术和产业化布局。本文源自：...
预测性推理带来AI应用大爆发,如何抓住万亿级市场新机会?
2024年9月发布的ChatGPT-O1就是推理模型，O1在科学、编程和数学等任务中都展现了出色的推理能力和自我纠错能力。随着AI应用的广泛普及，AI预测推理的需求也迅速增加。根据国信证券的研究报告，推理算力的需求正在快速增长，...
江苏亿友慧云取得基于逻辑偏好融合推理的物品推荐方法专利
金融界2025年1月17日消息，国家知识产权局信息显示，江苏亿友慧云软件股份有限公司取得一项名为“一种基于逻辑偏好融合推理的物品推荐方法”的专利，授权公告号CN118626728B，申请日期为2024年8月。天眼查资料显示，江苏亿友慧...
宣称“文理兼修”阶跃星辰推理模型 Step R-mini 上线
来源:IT之家 官方表示，在AIME和Math等数学基准测试上，StepReasonermini的成绩超过了o1-preview，比肩OpenAIo1-...StepReasonermini除了能准确解答数学、代码、逻辑推理问题，还能富有创意地完成文学内容创作和日常聊天的任务。
讯飞星火深度推理模型X1发布,拓宽医疗应用边界
中新经纬1月17日电1月15日，科大讯飞发布了当前全国产算力平台上唯一的深度推理大模型—讯飞星火X1，该模型中文数学能力国内第一，并率先应用于教育、医疗等刚需场景。同时，讯飞星火4.0Turbo底座能力实现了全新升级，七大核心...
理想汽车 OTA 7.0版本来了:新增全场景智能驾驶、AI推理可视化等能力
在智能驾驶方面，理想汽车新增了全场景端到端智能驾驶功能，以及AI推理可视化等功能。此外，基座大语言模型MindGPT也得到了迭代，升级为MindGPT-30，进一步提升了系统的理解和响应能力。在智能座舱方面，ADMaxV13.0版本引入了...
科大讯飞发布深度推理大模型,做数学题毫无压力
尽管在全国产算力平台上训练深度推理模型遭遇了诸多挑战，但科大讯飞携手华为，成功攻克了训练推理强交互、高吞吐推理优化以及国产算子优化等一系列难题，最终成功训练出我国首个基于全国产算力训练的具备深度思考和推理能力的...
阶跃星辰发布推理模型:要将推理能力融入更多交互形态的大模型
1月16日，国内大模型“六小虎”之一的阶跃星辰发布自研推理模型StepReasonermini。在AIME和Math等数学基准测试上与OpenAIo1-mini水平相当。据介绍，StepReasonermini是Step系列模型家族的首个推理模型，擅长主动进行规划、尝试...
沪研大模型捷报频传 阶跃星辰自研推理模型Step R-mini今上线
继15日上海人工智能实验室对“书生”大模型进行重要版本升级，MiniMax发布并开源新一代01系列模型后，阶跃星辰自研推理模型StepReasonermini（简称“StepR-mini”）今天上线。StepReasonermini是Step系列模型家族的首个推理...
阶跃星辰推出首款推理模型Step R-mini 全量上线跃问网页版
本报讯（记者袁传玺）1月16日，上海阶跃星辰智能科技有限公司（以下简称“阶跃星辰”）自研推理模型StepReasonermini上线（简称“StepR-mini”），已经在跃问网页端全量开放。目前，阶跃星辰自研的Step系列基座模型矩阵，已经...
大模型训练算力需求增长放缓,腾讯云称红利将转向推理端
不过，长期看，大模型行业化应用将更多带来推理相关的计算需求，随着越来越多企业用户和创业公司转向大模型应用，预计应用爆发将带来大量推理需求，为云厂商带来明显的红利。还有什么变量？市场研究机构Canalys数据显示，2024...
阶跃星辰推理模型Step R-mini上线
1月16日，阶跃星辰自研推理模型StepReasonermini上线。据介绍，这是Step系列模型家族的首个推理模型，擅长主动进行规划、尝试和反思，能通过慢思考和反复验证的逻辑机制，为用户提供准确可靠的回复。它既擅长通过超长推理能力...
阿里云通义开源最强过程奖励PRM模型,7B尺寸比GPT-4o更能发现推理错误
在当前大模型推理过程中，不时存在逻辑错误或编造看似合理的推理步骤，如何准确识破过程谬误并减少它，对增强大模型推理能力、提升推理可信度尤为关键。过程奖励模型（ProcessRewardModel,PRM）为解决这一问题提供了一种极有...
推理游戏爱好者狂喜《火起雪中寺》新作来了
《火起雪中寺》是一款3D古风悬疑探索游戏，现已在Steam上架，支持简体中文，并计划在今年内发售。该游戏的背景设置在一个被大雪覆盖的古刹，玩家将扮演一名被神秘黑影传送回过去的人，在火起前的三个时辰里寻找真相。...
科大讯飞发布首个基于纯国产算力的深度推理大模型
经济观察网记者沈怡然 1月15日，科大讯飞（002230.SZ）推出了国内首个基于全国产算力平台训练的深度推理大模型X1。这既是科大讯飞在大模型能力上的突破，也是国产算力能力的突破。AI的演进方向就是模拟人脑的认知和思维过程，...
“讯飞星火X1”发布 攻克全国产算力下推理模型训练难关
湖南日报1月15日讯（通讯员许可亮）今天，科大讯飞发布“讯飞星火X1”大模型，作为当前全国产算力平台上唯一的深度推理大模型，其成功攻克了训练推理强交互、高吞吐推理优化以及国产算子优化等系列难题，将率先应用于教育、...
讯飞星火深度推理模型X1发布:唯一全国产算力平台训练,多项指标国内第一
尽管在全国产算力平台上训练深度推理模型遭遇了诸多挑战，但科大讯飞携手华为，成功攻克了训练推理强交互、高吞吐推理优化以及国产算子优化等一系列难题，最终成功训练出我国首个基于全国产算力训练的具备深度思考和推理能力的...
中昊芯英申请一种推理装置、方法、介质及芯片专利,大幅提高内存模块和计算模块的利用率
本申请在对待处理文本进行推理时，当任一序列完成推理后，即可释放该序列对应的存储空间和计算资源，并存入新的序列进行推理，从而大幅提高的内存模块和计算模块的利用率，提高了大语言模型的推理效率。天眼查资料显示，中昊芯...
卓世智星申请基于任务的模型推理方法及装置专利,提升推理效率
金融界2025年1月15日消息，国家知识产权局信息显示，卓世智星（青田）元宇宙科技有限公司申请一项名为“一种基于任务的模型推理方法及装置”的专利，公开号CN119294530A，申请日期为2024年12月。专利摘要显示，本发明提供一种...
上海壁仞科技申请模型推理方法专利,提高大模型推理效率
金融界2025年1月15日消息，国家知识产权局信息显示，上海壁仞科技股份有限公司申请一项名为“模型推理方法、装置、电子设备和存储介质”的专利，公开号CN119294519A，申请日期为2024年9月。专利摘要显示，本申请提供一种模型...
百度申请推理方法等相关专利,实现推理请求的精准匹配
金融界2025年1月15日消息，国家知识产权局信息显示，北京百度网讯科技有限公司申请一项名为“推理方法、推理系统、装置、设备及存储介质”的专利，公开号CN119294514A，申请日期为2024年9月。专利摘要显示，本公开提供了推理...
新紫光集团申请一种数据推理方法专利,可减少推理时间
专利摘要显示，本申请公开了一种数据推理方法、系统、设备和存储介质，该方法包括：主节点基于Transformer模型的当前层的输入词元，生成查询向量、键向量和值向量，并将键向量和值向量添加于主节点的本地键值缓存；主节点通过...
科大讯飞联手华为首次攻克全国产算力下推理模型训练难关
掌上春城讯 1月15日，科大讯飞发布了当前全国产算力平台上唯一的深度推理大模型—讯飞星火X1。该模型中文数学能力国内第一，并率先应用于教育、医疗等刚需场景。同时，讯飞星火4.0Turbo底座能力再次迎来全新升级，图文、数学和...
首个基于全国产算力的深度推理大模型发布
中新网安徽新闻1月15日电1月15日，首个基于全国产算力的讯飞星火深度推理模型X1在安徽省合肥市对外发布。据认知智能全国重点实验室相关负责人介绍，该模型成功攻克了全国产算力下推理模型训练的一系列难题，包括训练推理强交互...
中国重汽申请目标检测方法专利,降低深度学习模型推理时间
该方法增加了更多目标检测需要的关键信息，在原始图像中仅保留可行驶区域，减少了原始图像中的无效信息，从而能够降低深度学习模型的推理时间。天眼查资料显示，中国重汽集团济南动力有限公司，成立于2006年，位于济南市，是...
杭州同顺传媒申请一种模型推理专利,提高大语言模型的推理准确度
金融界2025年1月8日消息，国家知识产权局信息显示，杭州同顺传媒科技有限公司申请一项名为“一种模型推理方法、系统、设备及计算机可读存储介质”的专利，公开号CN119250210A，申请日期为2024年12月。专利摘要显示，本申请公开...
中国电信申请推理优化方法专利,减少多租户大模型的 GPU 内存资源使用量
金融界2025年1月8日消息，国家知识产权局信息显示，中国电信股份有限公司技术创新中心、中国电信股份有限公司申请一项名为“推理优化方法优化装置设备存储介质和程序产品”的专利，公开号CN119250207A，申请日期为2024年10月。...
金山云申请推理计算方法和装置等专利,解决数据传输成本高及推理速度慢问题
金融界2025年1月8日消息，国家知识产权局信息显示，北京金山云网络技术有限公司申请一项名为“推理计算方法和装置、电子设备和存储介质”的专利，公开号CN119250204A，申请日期为2024年9月。专利摘要显示，本申请提供了一种...
合肥君正申请一种判断Conv2D算子能否In-place的方法专利,有助于减少模型底层推理的内存开销
专利摘要显示，本发明提供一种判断Conv2D算子能否In‑place的方法，包括：S1，结合底层Conv2D算子的推理的数据流和FRAM的存储大小情况，考虑Conv2D的各个参数，推理出常用Conv2D算子的In‑place条件；S2，根据满足条件的情况，...
科大讯飞升级发布8款办公智能体并将推出推理模型
新京报贝壳财经讯（记者罗亦丹）1月7日，科大讯飞对外发布了8款办公智能...此外，科大讯飞宣布，将于1月15日对外发布“讯飞星火深度推理模型X1”，这意味着在OpenAI发布o1模型之后，又一家国产大模型紧随其后，踏入了推理的领域。
天工版o1、4o同时上线!超强逻辑推理秒杀数学竞赛,实时语音陪聊
最后，在推理的规划方面，团队通过自研的Q*线上推理算法，以及模型的在线思考能力，实现了最优推理路径的寻找。概括来说，Q*算法通过借鉴人类大脑中「System 2」的思考方式，将LLM的多步推理过程抽象为一个启发式搜索问题。...
完结推理小说,恐怖场景,怪诞恐怖,善恶边缘,怪物空间
主角梁袭通过细致的观察、敏锐的洞察力和严密的逻辑推理，一步步解开案件的谜团，让读者在阅读过程中充分享受推理的乐趣。轻松幽默的风格：尽管小说涉及到悬疑、犯罪等严肃的主题，但整体风格却较为轻松幽默。主角梁袭性格贱兮...
【密度科技】OpenAI 最强推理模型 o3 登场,AGI 时代将至?
近日，OpenAI推出了最新的推理模型o3，这一消息在科技界引起轩然大波。o3模型的发布之所以备受瞩目，是因为它在AGI测试能力上实现巨大飞跃，标志着AI技术进入了一个全新阶段。o3模型在编程、数学、科学等多个领域展现出超越前...
1月6日券商晨会精选|A股有望震荡上行;AI进入推理时代,看好这些机会
中泰证券：AI进入推理时代，看好通信板块投资机会 中泰证券研报认为，展望2025年，AI进入推理阶段有望驱动新一轮算力需求增长，国内低轨卫星组网开启，看好通信板块投资机会，重视自主可控方向。主线一：AI进入推理时代，重塑...
讲座|英国推理小说家伊恩·兰金:犯罪小说和任何文学作品一样严肃
伊恩·兰金，英国著名推理小说作家 “写以过去为背景的犯罪小说，更自由” 与同系列其他小说最大的区别是，《午夜与蓝色》是在监狱里发生的故事。在爱丁堡的索顿监狱，一名罪犯在他紧锁的牢房中惨遭杀害，睡在对面牢房里的是...
叙利亚饥荒来临这样的饥荒是我预料到的，我的推理是这么推理的：没
这样的饥荒是我预料到的，我的推理是这么推理的：没有合法的组织出面接受援助。我当时这么说的：人三天都会饿的，地面上的武装组织这么多，但是给你援助也得我愿意，因为我援助的是一个组织或者政府，有人谢我。我把东西给你了...
平安科技取得模型推理加速方法相关专利
金融界2025年1月4日消息，国家知识产权局信息显示，平安科技（深圳）有限公司取得一项名为“模型推理加速方法、装置、计算机设备及存储介质”的专利，授权公告号CN112434525B，申请日期为2020年11月。天眼查资料显示，平安科技...
中国电信取得推理任务处理方法相关专利
金融界2025年1月4日消息，国家知识产权局信息显示，中国电信股份有限公司取得一项名为“推理任务处理方法、装置、电子设备及存储介质”的专利，授权公告号CN118363762B，申请日期为2024年6月。天眼查资料显示，中国电信股份...
阿里云通义开源首个多模态推理模型QVQ
新京报贝壳财经讯（记者罗亦丹）12月25日，阿里云通义千问发布业界首个开源多模态推理模型QVQ-72B-Preview。QVQ展现出超预期的视觉理解和推理能力，在解决数学、物理、科学等领域的复杂推理问题上表现尤为突出。多项评测数据...
阿里通义千问发布视觉推理模型QVQ-72B-Preview
阿里通义千问团队今日发布了一项开源视觉推理模型QVQ-72B-Preview，该模型基于Qwen2-VL-72B构建，能够通过逻辑推理解决复杂的物理问题。他们对QVQ-72B-Preview进行了四个数据集上的评估，包括MMMU、MathVista、MathVision和...