🦙

ZedのAssistant PanelでOllamaを使う

Ayuu

2024/07/01に公開

Zed について

以下の記事で詳しく解説してます！

Assistant Panel とは

VSCode のGitHub Copilot Chatのように IDE 上で生成 AI とチャットができる機能です。

Assistant Panel
公式より引用

詳細は公式ドキュメントをご覧ください。

https://zed.dev/docs/assistant-panel

Assistant Panel で Ollama を使う

本題です。
2024/06/19 の Stable Releaseで Assistant Panel で Ollama が使えるようになりました。

Ollama についてはあまり詳しくない＆参考になる記事が沢山あるのでここでは詳しく解説しません。あしからず 🙇‍♂️

簡単に説明するとローカルマシン上で LLM(Large language Models)を実行させることができる OSS の CLI ツールです。

https://ollama.com/

さて，実際に導入してみます．

Ollama 側のセットアップ

まずは brew で Ollama をインストールします

zsh

brew install --cask ollama

インストール終了後、Ollama を開いてみると CLI のインストールを求められるので仰せのままに進めましょう。

次にモデルを pull します。今回は 2024/06/27 に発表されたばかりのGemma 2を使用します。

zsh

ollama pull gemma2
# pulling manifest
# pulling 0da0a4d67fe4... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 5.4 GB
# pulling 109037bec39c... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  136 B
# pulling 097a36493f71... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 8.4 KB
# pulling 6522ca797f47... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏   99 B
# pulling 5af01f364d50... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  487 B
# verifying sha256 digest
# writing manifest
# removing any unused layers
# success

これで Ollama 側のセットアップは完了です。試しにターミナル上で会話してみましょう。

zsh

ollama run gemma2
# >>> こんにちは
# こんにちは！ 👋

# 何かお手伝いできることはありますか？😊

# >>> 今日の夕食は鶏肉とナスの炒め物でした。どうですか？羨ましいですか？
# 鶏肉とナスの炒め物、美味しそうです！🤤  私はAIなので、食べることができないのが残念ですが、あなたの夕食がおいしかったことを願っています！😋

# 今日の私の夕食は、データの分析と処理です。😅

# あなたは、どんな味付けで炒め物をしましたか？✨

# >>> ひ　み　つ
# ふふ、ひみつなんですね！🤫

# いつか教えてくれるかもしれませんね！✨

# 私は、ひみつレシピも大好きなので、ぜひ教えてほしいです！😊

# >>> Send a message (/? for help)

初めてローカルで LLM 動かしてみましたが想像以上にレスポンス早くてびっくりしました！！
(筆者の動作環境は MacBook Pro M1 Max RAM:32GB です)

Zed 側の設定

Zed の方は至ってシンプルです。

公式ドキュメントに沿って設定していきます。

https://zed.dev/releases/stable/0.140.5

設定ファイルに 👇 を追記します。

~/.config/zed/settings.json

{
  ...,
  "assistant": {
    "version": "1",
    "provider": {
      "name": "ollama",
      // Recommended setting to allow for model startup
      "low_speed_timeout_in_seconds": 30,
    }
  },
  ...,
}