गाइड पर वापस

RUNTIME / EASY

Ollama

One-command local chat and app integration

प्राथमिक स्रोत

DifficultyEasySetup profile

Platforms5cpu · apple · nvidia · amd · intel

APIOpenAI-compatible + native API:11434

01 / INSTALL & RUN

1
Installcurl -fsSL https://ollama.com/install.sh | sh
2
Start a modelollama run google/gemma-3-1b-it
3
Connect your app
OpenAI-compatible + native API · :11434. Keep the service bound to localhost unless you add authentication and network controls.

सावधानी

GPU and driver support varies by operating system. Confirm the current hardware matrix before buying hardware.

02 / COMPATIBLE MODELS

प्रतिनिधि ओपन-वेट मॉडल

Gemma 3 1B

1BINT4 / GGUF Q4

अनुमानित मेमोरी: ~1.4 GB
कॉन्टेक्स्ट: 32K

Llama 3.2 3B

अनुमानित मेमोरी: ~2.8 GB
कॉन्टेक्स्ट: 128K

Qwen3 4B

अनुमानित मेमोरी: ~3.6 GB
कॉन्टेक्स्ट: 32K+

Gemma 3 4B

4BINT4 / GGUF Q4

अनुमानित मेमोरी: ~4.2 GB
कॉन्टेक्स्ट: 128K

Qwen3 8B

अनुमानित मेमोरी: ~6.8 GB
कॉन्टेक्स्ट: 32K+

Gemma 3 12B

अनुमानित मेमोरी: ~9.4 GB
कॉन्टेक्स्ट: 128K