맥 ollama api 외부 오픈

728x90

OLLAMA_HOST=0.0.0.0 ollama serve

사전에 위와 같은 명령어로 실행 필요

Allow listening on all local interfaces · Issue #703 · ollama/ollama

This means not loopback but all other private networks Makes it unusable in containers and configs with proxies in front.

github.com

ollama/docs/faq.md at main · ollama/ollama

Get up and running with Llama 3, Mistral, Gemma 2, and other large language models. - ollama/ollama

github.com

* 상시 허용하고 싶으면

vi ~/.zshrc 실행 후 아래 문구 추가

export OLLAMA_HOST=0.0.0.0:11434

source ~/.zshrc 실행해서 적용

* cli에서 실행하려면

ollama serve

ollama run llama3.1:8b

* GUI로 사용

728x90

나의 인박스