Mistral发布针对笔记本电脑和手机优化的新型AI模型

你不懂智能君 2024-10-21 15:28:39

法国人工智能初创公司Mistral发布了其首批生成式人工智能模型,致力于在笔记本电脑和手机等边缘设备上运行。

Mistral称之为“Les Ministraux”的新模型系列可用于或调整为各种应用,从基本的文本生成到与更强大的模型协同完成任务。

有两种Les Ministraux型号可供选择:Ministral 3B和Ministral 8B,两者都有128000个令牌的上下文窗口,这意味着它们大约可以容纳一本50页书的长度。

Mistral博文表示:“我们最具创新精神的客户和合作伙伴越来越多要求为关键应用提供本地、隐私优先的推理,例如设备翻译、无互联网智能助手、本地分析和自主机器人。Les Ministraux 的建立是为了为这些场景提供计算效率高、延迟低的解决方案。”

即日起,Ministral 8B可供下载,尽管仅供研究之用。Mistral要求对Ministral 8B或Ministral 3B 自行部署设置感兴趣的开发者和公司联系其获取商业许可。

另外,开发者还可以通过Mistral云平台La Platforme以及这家初创公司未来几周内合作的其他云平台以使用Ministral 3B和Ministral 8B。Ministral 8B每百万输出/输入令牌(约750000个单词)收费10美分,而Ministral 3B每百万输出/输入令牌收费4美分。

最近,小型模型成为一种趋势,与大型模型相比,小型模型更平价,训练、微调和运行速度更快。谷歌继续向其Gemma小型模型系列添加模型,而微软则提供其Phi模型系列;在最近更新的Llama套件中,Meta推出了几款针对边缘硬件优化的小型模型。

Mistral声称,在评估指令遵循和解决问题能力的几项AI基准测试中,Ministral 3B和Ministral 8B的表现优于同类的Llama和Gemma模型,以及Mistral 7B。

0 阅读:1

你不懂智能君

简介:感谢大家的关注