发布信息

Mistral Small 3.1发布:240亿参数AI模型本地运行,性能超越GPT-4o Mini

作者:软荐小编      2025-03-19 16:01:32     110

3 月 19 日消息来自 IT 之家。3 月 17 日,Mistral AI 公司发布了一篇博文。该博文推出了最新的 Mistral Small 3.1 模型,其具有 240 亿参数和 128K 上下文。这个模型不仅可以在本地运行,还能降低成本。并且它的部分性能超过了 OpenAI 的 GPT-4o mini。

IT 之家援引博文进行介绍,Mistral Small 3.1 主要特点是高效运行。它能够在仅配备单张 RTX 4090 显卡的 PC 上运行,也可以在内存为 32GB 的 Mac 上运行。此模型适用于虚拟助手等应用,这些应用需要快速且准确地响应。正因如此,它成为了预算有限的中小型企业和开发者的理想选择。

Mistral Small 3.1登场,128K上下文、优于Gemma 3和GPT4o-mini_Mistral Small 3.1登场,128K上下文、优于Gemma 3和GPT4o-mini_

该模型无需依靠云端 AI 模型,它可以对本地数据进行处理,这样就降低了敏感信息泄露的风险。同时,该模型还能够调用低延迟的函数,并且能够在自动化或代理工作流程中快速地执行这些函数。

Mistral Small 3.1 能够用于多种企业和消费者应用,这些应用需要多模态理解。比如在文档验证方面,在诊断领域,在设备端进行图像处理时,在质量检查的视觉检测中,在安全系统的对象检测里,在基于图像的客户支持上,以及在通用助手中。

Mistral Small 3.1 在多个基准测试中有着出色的表现。它在多语言理解方面展现出强大的能力,在长文本处理方面也展现出强大的能力,并且在多模态指令跟随方面同样展现出强大的能力。

Mistral Small 3.1 在多语言理解方面表现出色,它比 Gemma-3 更优,比 Cohere Aya-Vision 更优,比 GPT-4o Mini 更优,也比 Claude-3.5 Haiku 更优。

_Mistral Small 3.1登场,128K上下文、优于Gemma 3和GPT4o-mini_Mistral Small 3.1登场,128K上下文、优于Gemma 3和GPT4o-mini

Mistral Small 3.1 在处理视觉和文本信息时表现出色,尤其在视觉推理方面、图表信息提取方面以及图解分析方面。它的推理速度最高能够达到每秒 150 个 tokens。

Mistral Small 3.1登场,128K上下文、优于Gemma 3和GPT4o-mini_Mistral Small 3.1登场,128K上下文、优于Gemma 3和GPT4o-mini_

Mistral Small 3.1 在数学问题解决方面展现了强大的能力。

Mistral Small 3.1登场,128K上下文、优于Gemma 3和GPT4o-mini_Mistral Small 3.1登场,128K上下文、优于Gemma 3和GPT4o-mini_

_Mistral Small 3.1登场,128K上下文、优于Gemma 3和GPT4o-mini_Mistral Small 3.1登场,128K上下文、优于Gemma 3和GPT4o-mini

相关内容 查看全部