가이드로
RUNTIME / EASY

Ollama

One-command local chat and app integration

1차 출처
DifficultyEasySetup profile
Platforms5cpu · apple · nvidia · amd · intel
APIOpenAI-compatible + native API:11434
01 / INSTALL & RUN
  1. 1
    Installcurl -fsSL https://ollama.com/install.sh | sh
  2. 2
    Start a modelollama run google/gemma-3-1b-it
  3. 3
    Connect your app

    OpenAI-compatible + native API · :11434. Keep the service bound to localhost unless you add authentication and network controls.

주의

GPU and driver support varies by operating system. Confirm the current hardware matrix before buying hardware.

02 / COMPATIBLE MODELS

대표 오픈 웨이트 모델

Google

Gemma 3 1B

1BINT4 / GGUF Q4
추정 메모리
~1.4 GB
컨텍스트
32K
Meta

Llama 3.2 3B

3BGGUF Q4
추정 메모리
~2.8 GB
컨텍스트
128K
Alibaba Qwen

Qwen3 4B

4BGGUF Q4
추정 메모리
~3.6 GB
컨텍스트
32K+
Google

Gemma 3 4B

4BINT4 / GGUF Q4
추정 메모리
~4.2 GB
컨텍스트
128K
Alibaba Qwen

Qwen3 8B

8BGGUF Q4
추정 메모리
~6.8 GB
컨텍스트
32K+
Google

Gemma 3 12B

12BINT4
추정 메모리
~9.4 GB
컨텍스트
128K