推論服務 / 簡單
Lemonade
Ryzen AI, Radeon and Strix Halo PCs, including the XDNA2 NPU, behind one local API
一手來源用你的硬體檢查這個執行階段的適配模型選裝置或顯示卡,只顯示該執行階段在這台機器上的適配路徑。
難度簡單安裝難度
平台4amd · nvidia · cpu · apple
APIOpenAI + Ollama + Anthropic-compatible:13305
01 / 安裝與執行
安裝方式取決於作業系統。以下指令是範例或範本,請先替換佔位符並核對量化版本、檔案格式、驅動與執行環境支援;記憶體適配不保證部署成功。
- 1安裝
snap install lemonade-server # or the .msi / .deb / .pkg installer - 2啟動模型
lemonade run <verified-model-name> - 3連接你的應用
OpenAI + Ollama + Anthropic-compatible · :13305. 除非加入驗證與網路存取控制,否則請將服務綁定到 localhost。
注意
Built with AMD engineers around Ryzen AI, Radeon and Strix Halo; CUDA, Vulkan, Metal and CPU backends cover other PCs. Run `lemonade backends` on the machine itself — the NPU path needs the vendor driver stack and is not available everywhere.
02 / 相容模型
代表性開放權重模型
Alibaba Qwen
Qwen3.6 27B
27BQ4 / NVFP4 estimate
- 估算記憶體
- ~18.5 GB
- 上下文
- 262K native
Alibaba Qwen
Qwen3.8 27B
27BQ4 estimate
- 估算記憶體
- ~19.5 GB
- 上下文
- 262K native
Alibaba Qwen
Qwen3.6 35B-A3B
35B3B active · Q4 / NVFP4 MoE
- 估算記憶體
- ~25 GB
- 上下文
- 262K native
DeepSeek
DeepSeek V4 Flash
284B13B active · Official FP4 + FP8 mixed
- 估算記憶體
- ~176 GB
- 上下文
- 1M native
Google
Gemma 3 1B
1BINT4 / GGUF Q4
- 估算記憶體
- ~1.4 GB
- 上下文
- 32K
Meta
Llama 3.2 3B
3BGGUF Q4
- 估算記憶體
- ~2.8 GB
- 上下文
- 128K