Mistral-欧洲版OpenAI发布新模型,可单卡本地运行
根据今年各公司发布的模型能力以及模型尺寸,随着模型算力的提升,未来可能会有一种趋势,20至40B的模型比较适合进行本地部署,且能胜任大量的日常任务。法国AI公司Mistral发布开源模型Mistral Small 3.1。号称同量级中最优秀的模型。性能不输同量级Gemma 3和GPT-4o Mini。模型大小24B,128K上下文窗口。每秒150个token的推理速度。消费级 显卡4090单卡可跑
·
法国AI公司Mistral发布开源模型Mistral Small 3.1。号称同量级中最优秀的模型。
划重点
-
开源可商用
-
模型大小24B,128K上下文窗口
-
性能不输同量级Gemma 3和GPT-4o Mini
-
每秒150个token的推理速度
-
消费级 显卡4090单卡可跑
-
多模态模型,支持函数调用
速度与性能

文本处理能力


多模态能力


多语言能力

总结
根据今年各公司发布的模型能力以及模型尺寸,随着模型算力的提升,未来可能会有一种趋势,20至40B的模型比较适合进行本地部署,且能胜任大量的日常任务。
希望小伙伴们关注公众号 帅森森聊AI和职场 持续分享一线的AI情报。
更多推荐


所有评论(0)