👌

ollamaのリモートアクセスでハマった件

2024/06/05に公開

Ubuntu

Ollama

tech

概要

ollamaをリモートのUbuntuで動かして、手元のWindowsから 192.168.1.2:11434 でアクセスしても繋がらなかったので対応しました。調べてみると困っている人が沢山いるみたいですね。

11434ポートで動いているのに、ブラウザからアクセスするとエラーになります。

sudo lsof -i :11434

COMMAND    PID   USER   FD   TYPE DEVICE SIZE/OFF NODE NAME
ollama  115348 ollama    3u  IPv6 400889      0t0  TCP *:11434 (LISTEN)

解決方法

こちらのページの方法で解決しました。

以下の情報をollamaの設定ファイルに追記します。

[Service]
OLLAMA_HOST=0.0.0.0
OLLAMA_ORIGINS=192.168.1.*

設定ファイルは以下のコマンドで編集するのですが、注意することがあります。

systemctl edit ollama.service

Lines below this comment will be discarded と書いてある行より上に追記しないと保存されません。ここでハマりました。以下のように、この行の上に追記すると正しく保存されます。

nanoなのでCtrl-O + ReturnKeyで保存、Ctrl-Xで終了です。

### Editing /etc/systemd/system/ollama.service.d/override.conf
### Anything between here and the comment below will become the new contents of the file

[Service]
Environment="OLLAMA_HOST=0.0.0.0"
OLLAMA_ORIGINS=192.168.1.*

### Lines below this comment will be discarded

### /etc/systemd/system/ollama.service
# [Unit]
# Description=Ollama Service
# After=network-online.target
#
# [Service]
# ExecStart=/usr/local/bin/ollama serve
# User=ollama
# Group=ollama
# Restart=always
# RestartSec=3
# Environment="PATH=/home/tatefuku/cuda-11.3/bin:/home/tatefuku/miniconda/envs/map/bin:/home/tatefuku/cuda-11.3/bin:/usr/local/cuda/bin:/home/tatefuku/minicond>
#
# [Install]
# WantedBy=default.target

こちらでollamaを再起動すると繋がるようになりました。

systemctl restart ollama

概要

解決方法

Discussion