Ollama
Summary
로컬 머신에서 LLM을 무료로 실행하는 오픈소스 런타임. macOS·Linux·Windows 지원. 코드·데이터가 외부로 나가지 않아 프라이버시 완전 보장. OpenCode 연동 시 custom provider로 수동 설정 필요.
로컬 머신에서 LLM을 무료로 실행하는 오픈소스 런타임. macOS·Linux·Windows 지원. 코드·데이터가 외부로 나가지 않아 프라이버시 완전 보장. OpenCode 연동 시 custom provider로 수동 설정 필요.
개요
Ollama는 ollama pull <모델명>으로 LLM을 다운로드하고 로컬 API 서버(http://localhost:11434)를 통해 제공하는 도구다. OpenAI 호환 API를 제공하므로 @ai-sdk/openai-compatible로 대부분의 AI 도구와 연동 가능하다.
주요 사실
- 설치: macOS
brew install ollama/ Linuxcurl -fsSL https://ollama.com/install.sh | sh - API 주소:
http://localhost:11434/v1(OpenAI 호환) - 비용: 완전 무료 (전기·하드웨어 비용만)
- OpenCode 연동:
/connect,/models에서 자동 표시 안 됨 →opencode.json에 custom provider 직접 추가 필요
MacBook 코딩 모델 추천 (valid_as_of 2026-01-09)
| RAM | 추천 모델 | 크기 |
|---|---|---|
| 8GB | qwen2.5-coder:1.5b, qwen2.5-coder:3b | 1–2GB |
| 16GB | qwen2.5-coder:7b, qwen3:8b | 4–5GB |
| 24-36GB | qwen2.5-coder:14b, deepseek-coder-v2:16b | 9GB |
| 48GB+ | qwen3-coder:30b | 19GB (256K 컨텍스트) |
OpenCode 연동 설정
{
"provider": {
"ollama": {
"npm": "@ai-sdk/openai-compatible",
"name": "Ollama (local)",
"options": { "baseURL": "http://localhost:11434/v1" },
"models": {
"qwen3:8b": { "name": "Qwen3 8B" }
}
}
}
}관련 개념
- 로컬-LLM-컨텍스트-한계 — 로컬 실행 시 컨텍스트 한계