返回指南
推論服務 / 簡單

Lemonade

Ryzen AI, Radeon and Strix Halo PCs, including the XDNA2 NPU, behind one local API

一手來源
用你的硬體檢查這個執行階段的適配模型選裝置或顯示卡,只顯示該執行階段在這台機器上的適配路徑。
難度簡單安裝難度
平台4amd · nvidia · cpu · apple
APIOpenAI + Ollama + Anthropic-compatible:13305
01 / 安裝與執行

安裝方式取決於作業系統。以下指令是範例或範本,請先替換佔位符並核對量化版本、檔案格式、驅動與執行環境支援;記憶體適配不保證部署成功。

  1. 1
    安裝snap install lemonade-server # or the .msi / .deb / .pkg installer
  2. 2
    啟動模型lemonade run <verified-model-name>
  3. 3
    連接你的應用

    OpenAI + Ollama + Anthropic-compatible · :13305. 除非加入驗證與網路存取控制,否則請將服務綁定到 localhost。

注意

Built with AMD engineers around Ryzen AI, Radeon and Strix Halo; CUDA, Vulkan, Metal and CPU backends cover other PCs. Run `lemonade backends` on the machine itself — the NPU path needs the vendor driver stack and is not available everywhere.

02 / 相容模型

代表性開放權重模型

Alibaba Qwen

Qwen3.6 27B

27BQ4 / NVFP4 estimate
估算記憶體
~18.5 GB
上下文
262K native
Alibaba Qwen

Qwen3.8 27B

27BQ4 estimate
估算記憶體
~19.5 GB
上下文
262K native
Alibaba Qwen

Qwen3.6 35B-A3B

35B3B active · Q4 / NVFP4 MoE
估算記憶體
~25 GB
上下文
262K native
DeepSeek

DeepSeek V4 Flash

284B13B active · Official FP4 + FP8 mixed
估算記憶體
~176 GB
上下文
1M native
Google

Gemma 3 1B

1BINT4 / GGUF Q4
估算記憶體
~1.4 GB
上下文
32K
Meta

Llama 3.2 3B

3BGGUF Q4
估算記憶體
~2.8 GB
上下文
128K