「記憶」を持つAIエージェントを自作した | 【Knowledge Assistant】
はじめに — LLMの「物忘れ」問題
AIコーディングエージェントを日常的に使っていると、ある壁に必ずぶつかる。
「先週の設計判断、また最初から説明しなきゃいけない……」
「セッションをまたいだら、プロジェクト背景をゼロから共有しなおし」
「自分固有の業務ルールや設計書の内容、LLMは知るはずがない」
LLMはセッション内では驚くほど賢い。しかし記憶を持たない。セッションが終わると白紙に戻る。これは根本的な制約だ。
この問題を解決するために自作したのが Knowledge Assistant（以下、KA）。Claude APIを通じて動くAIエージェントに、「いつでも引き出せる知識棚」を持たせる仕組みだ。
Knowledge Assistant とは
一言でいえば、汎用LLMを「自分専用AI」に育てる仕組み。
自分のドキュメント（設計書、議事録、業務ルール等）をベクトルデータベースに蓄積しておき、AIエージェントが必要な知識をセマンティック検索で取り出せる。核心にあるのは RAG（Retrieval-Augmented Generation） の技術だ。
従来:
ユーザ → LLM（コンテキストに詰め込むしかない）
LLMのコンテキストウィンドウ = 「机の上」
大量の書類は乗り切らない
KA 導入後:
ユーザ → LLM ← 必要な知識だけ取り出す ← 知識棚（ベクトルDB）
必要な情報だけを棚から取り出して机に置ける
スクリーンショット
PC画面
AIによくあるデザインなのでUX的にも迷わない
iPhone
VPNさえ繋げばスマホでも利用可能
システム構成
VPN内に閉じている点が重要だ。 ベクトルDBもMCPサーバもインターネットから見えない。アクセスできるのはVPN接続中のマシンだけ。
特徴
1. セマンティック検索による知識取得
キーワード完全一致ではなく、意味の近さで検索する。「認証」で検索しても「ログイン」「ユーザー確認」「アクセス制御」に関連するドキュメントが引っかかる。大量のドキュメントでも必要な情報だけをピンポイントで取り出せる。
2. コレクションベースの知識管理
知識を用途別に分けて管理できる：
| コレクション | 用途 |
|---|---|
| 共通知識 | 汎用ナレッジ（技術メモ・業務ルール等） |
| エージェント記憶 | AIエージェントの作業履歴・学習事項 |
| ドキュメント本文 | PDF・テキスト等のインデックス |
| ファイルインデックス | ローカルファイルのメタ情報 |
| 会話履歴 | 重要なやり取りの記録 |
コレクションを分けることで、「このプロジェクトの知識だけ参照」「全プロジェクト横断で検索」などの柔軟な絞り込みが可能。
3. MCP（Model Context Protocol）による統合
Claude APIとベクトルDBをMCPで繋ぐ。エージェントはツール呼び出しの感覚で知識を検索・登録できる。プロンプトにコンテキストを詰め込む必要がなくなる。
4. KB Browserによる管理UI
コレクション内容の閲覧・検索・削除をブラウザから操作できる管理ツールを自作した。コマンドラインなしでRAGの中身を確認できる。
コスト感
「自分専用AIを構築する」と聞くとコストが気になるところ。実際のところを正直に書くと。
| 項目 | 実費 |
|---|---|
| 初期コスト | 設計・構築作業（3日程度、要スキル次第） |
| VPSレンタル料 | 月額約2,500円（CPU4コア・メモリ4GB・ディスク100GB） |
| Claude API利用料 | 使用量に応じた従量課金 |
VPSのスペックについて補足
ベクトルDB（ChromaDB）を含む複数のコンテナを安定稼働させるには、CPU4コア/メモリ4GBが実用上の下限だった。ここをケチると動作が不安定になる。「月数百円のVPSで動く」と思って構築すると後悔する。（実はスペックの割にコスパがいいVPSを見つけたこともあり、この後サーバ移転した。）
「コスト0」ではないが、自前のセキュアな知識基盤を月2,500円程度で持てると考えればコスパは悪くない。
おすすめポイント
LLMに「毎回教え直す」ストレスから解放される
設計上の意思決定、既知バグと回避策、業務固有のルール——一度登録すれば、次のセッションでも引き出せる。「あの判断の根拠は何でしたっけ？」が消える。
個人開発者・個人事業主には特にフィットする。
- 日々の設計判断・作業メモをAIが覚えてくれる
- プロジェクト固有の背景・経緯をセッションをまたいで共有
セキュリティを妥協しない
VPN + 認証付きMCPという構成で、機密性の高いドキュメントを外部漏洩リスクを抑えて扱える。全通信は暗号化される。クラウドサービスにデータを預けることへの不安があるチームにも向いている。
AIエージェントチームとの相乗効果
Knowledge Assistantは、AIエージェントを複数召集して協働させるシステムと組み合わせると真価を発揮する。
各エージェントが過去の作業ログや専門知識を引き出しながら協働するため、チームとしての「経験値」が蓄積されていく感覚がある。
AI活用をワンランク上げたい方へ
「LLMをツールとして使う」から「LLMに自分の知識を覚えさせて育てる」へ。これが個人でできる時代になった。
まとめ
| Before（KA なし） | After（KA あり） | |
|---|---|---|
| セッションをまたいだ情報共有 | 毎回手動でコンテキスト設定 | 自動で関連知識を取得 |
| 自分固有のルール・設計 | LLMは知らない | RAGで参照可能 |
| データの場所 | クラウドサービス依存 | 自前VPS（VPN保護） |
| 月額コスト | API料金のみ | API + VPS 約2,500円〜 |
Knowledge Assistantは「個人が育てるAI知識基盤」だ。ゼロから構築するには3日程度の作業と一定のスキルが必要だが、一度稼働すれば日常的なAI活用がまったく変わる。私自身、これを導入してから知見が蓄積されやすくなり、汎用的なChatGPTを使う機会が減った。
同じ課題感を持っている方の参考になれば幸いです。
Discussion