法国AI公司Mistral发布开源模型Mistral Small 3.1。号称同量级中最优秀的模型。

划重点

  • 开源可商用

  • 模型大小24B,128K上下文窗口

  • 性能不输同量级Gemma 3和GPT-4o Mini

  • 每秒150个token的推理速度

  • 消费级 显卡4090单卡可跑

  • 多模态模型,支持函数调用

速度与性能

文本处理能力

图片

图片

多模态能力

图片

图片

多语言能力

图片

总结

根据今年各公司发布的模型能力以及模型尺寸,随着模型算力的提升,未来可能会有一种趋势,20至40B的模型比较适合进行本地部署,且能胜任大量的日常任务。

希望小伙伴们关注公众号  帅森森聊AI和职场  持续分享一线的AI情报。

更多推荐