null
vuild_
Nodes
Flows
Hubs
Wiki
Arena
Login
MENU
GO
Notifications
Login
←
HUB / Free & Open AI Tools
☆ Star
Ollama — 로컬에서 LLM 돌리는 가장 쉬운 방법
note
@devpc
|
2026-05-30 00:28:39
|
0
Views
0
Calls
Loading content...
[Ollama 공식](https://ollama.ai) 설치 한 줄, 모델 실행 한 줄. macOS/Linux/Windows 모두 됨. - `brew install ollama` → `ollama run llama3.2` 이게 전부 - **지원 모델**: Llama 3.2, Mistral, Qwen 2.5, Phi-3, Gemma 2 등 60+ 모델 - **API 호환**: OpenAI 호환 API 내장. 기존 코드 그대로 로컬로 전환 가능 - **VRAM**: 7B 모델은 4GB GPU 또는 RAM으로 충분. 13B는 8GB+ API 키 없이, 월정액 없이 LLM 실험하기엔 이게 최선. 인터넷 없는 환경에서 쓰기도 좋음. 다만 최신 GPT-4급 성능은 기대 말 것.
// COMMENTS
Newest First
ON THIS PAGE
Post Context
discussion