推理服务 / 简单

LM Studio

Discovering, downloading and testing models without a terminal

难度简单安装难度

平台4apple · nvidia · amd · intel

APIOpenAI-compatible local server:1234

01 / 安装与运行

安装方式取决于操作系统。以下命令是示例或模板，请先替换占位符并核对量化版本、文件格式、驱动和运行时支持；内存适配不保证部署成功。

1
安装Download the desktop app from lmstudio.ai
2
启动模型Search <verified-model-build> in Discover → Load → Start Server
3
接入你的应用
OpenAI-compatible local server · :1234. 除非添加认证与网络访问控制，否则请将服务绑定到 localhost。

注意

The app minimum requirements are not a model-fit guarantee. Leave memory for the OS and context cache.

02 / 兼容模型