IBM企业级AI开发平台watsonx.ai上线DeepSeekR1蒸馏模型

IT之家 2025-02-11 12:40:20

根据官方介绍,DeepSeek还借助知识蒸馏技术,利用R1模型生成的数据优化了多个Llama和Qwen变体。用户可通过以下方式在watsonx.ai上使用DeepSeek蒸馏模型:

在watsonx.ai的“按需部署”目录中,IBM提供Llama蒸馏版,用户可以部署专用实例以进行安全推理。

用户还可通过“自定义基础模型”导入功能,上传DeepSeek-R1其他变体,例如Qwen蒸馏模型。

DeepSeek-R1具备强大的推理能力,适用于多个领域:

规划:其“链式思维”逻辑有助于处理需要逐步推理的任务,特别适合智能体(agentic)应用。

编程:可用于代码生成、调试和优化,提升开发效率。

数学问题求解:具备处理复杂数学问题的能力,在科研、工程和科学计算等领域表现突出。

开发者可在watsonx.ai上利用DeepSeek-R1进行AI解决方案开发,并使用以下解决方案能力:

直观测试和评估模型输出

通过连接向量数据库和嵌入模型构建RAG(检索增强生成)管道

支持LangChain、CrewAI等主流AI框架

IBMwatsonx.ai提供灵活的开源模型定制选项,支持DeepSeek-R1在不同环境下的部署,并简化智能体开发、微调、RAG、提示工程等工作流。此外,watsonx.ai内置安全机制,保障用户应用的安全性。

据IT之家此前报道,IBM首席执行官本月初曾发表长文称,他们(DeepSeek)仅用约2000枚英伟达芯片,以大约600万美元的成本训练了最新的模型,远低于行业预期。这再次证明,小型、高效的模型也能带来实际成果,无需依赖庞大而昂贵的专有系统。

0 阅读:2
IT之家

IT之家

爱科技,爱这里 - 前沿科技人气平台