推論服務 / 簡單

LM Studio

Discovering, downloading and testing models without a terminal

難度簡單安裝難度

平台4apple · nvidia · amd · intel

APIOpenAI-compatible local server:1234

01 / 安裝與執行

安裝方式取決於作業系統。以下指令是範例或範本，請先替換佔位符並核對量化版本、檔案格式、驅動與執行環境支援；記憶體適配不保證部署成功。

1
安裝Download the desktop app from lmstudio.ai
2
啟動模型Search <verified-model-build> in Discover → Load → Start Server
3
連接你的應用
OpenAI-compatible local server · :1234. 除非加入驗證與網路存取控制，否則請將服務綁定到 localhost。

注意

The app minimum requirements are not a model-fit guarantee. Leave memory for the OS and context cache.

02 / 相容模型