返回指南
模型 / MISTRAL AI

Devstral Small 2 24B

模型卡核對於 2026-09-16 · 記憶體適配為估算值;除非有符合你配置的獨立實測,否則速度未知。

也會被搜尋為:devstral-small-2

The 256K maximum context is not a practical default on consumer memory.

一手來源
總參數24B
估算記憶體~18.5 GBGGUF Q4 / BF16
上下文256KText + Image
授權條款Apache-2.0Multilingual
01 / 適合
  • coding agents
  • repository work
  • tool use
02 / 估算適配
03 / 部署方式

以下是執行方式範例,不是已驗證的安裝流程。容量估算對應量化檔案,官方倉庫可能是全精度權重;MLX、GGUF 與 TensorRT 需要相符的轉換檔或引擎。

Ollama簡單ollama run <model-tag>
llama.cpp中等llama-server -m /path/to/verified-model.gguf --port 9931
LM Studio簡單Search “mistralai/Devstral-Small-2-24B-Instruct-2512” → Load a Q4/INT4 build → Start Server
MLX LM中等mlx_lm.server --model mistralai/Devstral-Small-2-24B-Instruct-2512
注意

The 256K maximum context is not a practical default on consumer memory.