硬件 / UNIFIED MEMORY
Mac mini M6 · 24 GB
A compact current-generation Mac with 24 GB unified memory. Keep macOS, runtime, and KV-cache headroom separate from model weights.
一手来源Current compact Apple desktop24 GB
01 / 实际上限
Qwen3.6 27B
列表中排在最前的模型可能是勉强适配或需要卸载的。日常使用建议选第一个标为 余量充足 的结果，并保持上下文适中。
02 / 默认推理服务
MLX LM
Native Apple silicon inference, experimentation and fine-tuning. Only for Apple silicon. Use an MLX-converted model and tune KV cache size for long contexts. The bundled mlx_lm.server is an OpenAI-compatible HTTP endpoint (default 127.0.0.1:8080), but upstream warns it implements only basic security checks and is not recommended for production.
打开指南03 / 模型范围
代表性开放权重模型
Alibaba Qwen
Qwen3.6 27B
27BQ4 / NVFP4 estimate
- 估算内存
- ~18.5 GB
- 上下文
- 262K native
Mistral AI
Devstral Small 2 24B
24BGGUF Q4 / BF16
- 估算内存
- ~18.5 GB
- 上下文
- 256K
OpenAI
gpt-oss-20b
21B3.6B active · MXFP4
- 估算内存
- ~16 GB
- 上下文
- 128K
Alibaba Qwen
Qwen3 14B
14BGGUF Q4
- 估算内存
- ~11.2 GB
- 上下文
- 32K+
Google
Gemma 3 12B
12BINT4
- 估算内存
- ~9.4 GB
- 上下文
- 128K
Alibaba Qwen
Qwen3 8B
8BGGUF Q4
- 估算内存
- ~6.8 GB
- 上下文
- 32K+
注意
适配基于估算的总模型内存。驱动支持、KV 缓存、多模态投影层、并发以及桌面应用都可能进一步压缩可用余量。当前适配：Qwen3.6 27B (勉强适配), Devstral Small 2 24B (勉强适配), gpt-oss-20b (勉强适配), Qwen3 14B (余量充足), Gemma 3 12B (余量充足), Qwen3 8B (余量充足)。