Mistral发布Magistral Small 1.2推理模型,24B参数,可本地部署
Magistral Small 1.2
@MistralAI 刚刚在 Hugging Face 上发布
它基于 Mistral Small 3.2 (2506) 构建,增加了推理能力,通过 Magistral Medium 轨迹的 SFT 和在此基础上进行 RL 训练,是一个小型的、高效的推理模型,拥有 24B 参数。
Magistral Small 可以本地部署,量化后可在单块 RTX 4090 或 32GB RAM 的 MacBook 上运行。
上下文窗口:128k 上下文窗口
用 anycoder 随手做了一个聊天应用。
@MistralAI 刚刚在 Hugging Face 上发布
它基于 Mistral Small 3.2 (2506) 构建,增加了推理能力,通过 Magistral Medium 轨迹的 SFT 和在此基础上进行 RL 训练,是一个小型的、高效的推理模型,拥有 24B 参数。
Magistral Small 可以本地部署,量化后可在单块 RTX 4090 或 32GB RAM 的 MacBook 上运行。
上下文窗口:128k 上下文窗口
用 anycoder 随手做了一个聊天应用。