Ollama가 무료 API 공개 — 한 줄 명령으로 로컬에서 LLM 실행하기
Ollama Has a Free API — Run LLMs Locally with One Command
TL;DR AI
1분핵심 요약
Ollama로 로컬에서 대형 언어 모델을 실행할 수 있습니다.
하나의 명령으로 Llama 3, Mistral, Gemma, Phi 등 100개 이상의 모델을 다운로드해 실행할 수 있습니다 (예: 'ollama run llama3.1'은 자동으로 다운로드함).
localhost:11434에서 OpenAI 호환 API를 제공하며 chat completion, generate, tags 엔드포인트가 있습니다.
GPU 가속을 NVIDIA, AMD, Apple Silicon에서 지원합니다.
Ollama는 무료이며 MIT 라이선스로 배포됩니다.