返回指南
模型 / MISTRAL AI

Devstral Small 2 24B

模型卡核对于 2026-09-16 · 内存适配为估算值;除非有与你的配置相符的独立实测,否则速度未知。

也会被搜索为:devstral-small-2

The 256K maximum context is not a practical default on consumer memory.

一手来源
总参数24B
估算内存~18.5 GBGGUF Q4 / BF16
上下文256KText + Image
许可证Apache-2.0Multilingual
01 / 适合
  • coding agents
  • repository work
  • tool use
02 / 估算适配
03 / 部署方式

下面是运行方式示例,不是已验证的安装流程。容量估算对应量化文件,官方仓库可能是全精度权重;MLX、GGUF 与 TensorRT 需要匹配的转换文件或引擎。

Ollama简单ollama run <model-tag>
llama.cpp中等llama-server -m /path/to/verified-model.gguf --port 9931
LM Studio简单Search “mistralai/Devstral-Small-2-24B-Instruct-2512” → Load a Q4/INT4 build → Start Server
MLX LM中等mlx_lm.server --model mistralai/Devstral-Small-2-24B-Instruct-2512
注意

The 256K maximum context is not a practical default on consumer memory.