🐷

Neo4jの自前構築に挑戦 - 無償版期限切れの対応

2024/10/06に公開

Python

 背景・目的以前投稿した記事では、グラフ描画にNeo4j Auraを使用していましたが、無償版の有効期限が切れてしまい、サービスを利用できなくなりました。そこで今回は、Neo4jを自前で構築し、運用することにしました。また、以前の記事では実現できなかった、作成したグラフに対してChainlitで質問を行う機能にも挑戦してみました。
参考にした記事はこちらです：
https://qiita.com/ogi_kimura/items/1e03b29bb245b553be26
https://qiita.com/ogi_kimura/items/5e51dfbf31ef4f117a9a
https://qiita.com/ogi_kimura/items/715fffd87a636565d256
これらの記事では、Neo4jの環境構築からPDFファイルをグラフ化する方法、そしてChainlitを利用した質問応答システムの設定まで、ステップごとに解説しています。

 参考資料今回は、日本オラクルの@ssfujita さんの記事を参考にさせていただきました。記事は非常に分かりやすく、簡潔に書かれており、大変助かりました。フジタさん、ありがとうございます！
https://qiita.com/ssfujita/items/65a952f299190f4c1e6a
ただ、オラクル社のクラウドサービス（OCI）は個人的に利用する財力がないため、今回はOpenAIの仕様に変更させていただきました。オラクル社には申し訳ありませんが、その点ご了承ください。

 フォルダ構成Neo4jのzipファイルを解凍し、「C:\」直下に配置しました。以下はそのツリー構造です。zipファイルのダウンロード方法については次のセクションで詳しく説明します。
C:\
├── bin        # 実行ファイルを集めたフォルダ
├── conf       # 設定情報を入力したconfファイルを集めたフォルダ
├── plugins    # 利用するプラグインのライブラリを補完するフォルダ
├── labs       # 実験的なコードや新しい技術、試作的な機能などを格納するフォルダ
└── ・・・・・

 サーバ側 環境設定
 1. Neo4jのダウンロード公式サイトからNeo4jのzipファイルをダウンロードします。使用したバージョンはneo4j-community-5.24.1-windows.zipです。
https://neo4j.com/deployment-center/
このような画面が表示されます。

画面を下にスクロールして「Graph Database Self-Managed」というセクションに進み、赤枠で囲まれた部分からWindows用にダウンロードします。

 2. 解凍と配置ダウンロードしたzipファイルを解凍し、任意の場所に配置します。私の場合はNeo4jを「C:\」直下に置きました。

 3. 環境変数の設定以下の環境変数を設定しました。

NEO4J_HOME：Neo4jのインストールパス

PATH：Neo4jのbinフォルダへのパスを追加
以下は、環境変数ダイアログでNEO4J_HOMEを確認しているところを表しています。


 4. 認証設定初回起動時にはライセンス認証が必要です。以下のコマンドを使用して評価版ライセンスを承諾します。
bin/neo4j-admin server license --accept-evaluation
商用ライセンスの場合は次のコマンドを使用します。
bin/neo4j-admin server license --accept-commercial

 5. サーバ起動次に、サーバを起動するために以下のコマンドを実行します。
bin\neo4j-admin server console

 6. APOCプラグインのインストールPDFを読み込む際に発生したエラーです。
Could not use APOC procedures. Please ensure the APOC plugin is installed in Neo4j and that 'apoc.meta.data()' is allowed in Neo4j configuration
このエラーの解決のため、APOCプラグインをインストールします。

 neo4j.confの修正confフォルダ内のneo4j.confファイルに以下の設定を追加します。
dbms.security.procedures.unrestricted=apoc.*
dbms.security.procedures.allowlist=apoc.*

 APOCライブラリの配置また、APOCライブラリ（apoc-5.24.1-core.jar）をpluginsフォルダに配置します。

 7. サーバ再起動設定変更後はサーバを再起動し、APOCプラグインを読み込ませます。
bin/neo4j-admin server console
やっと正常に起動しました。（エラー原因究明なども含め、所要時間2時間かかりました）


 アプリ側 プログラム
 1. .envファイルの設定Chainlitでの認証に必要な.envファイルを作成し、APIキーなどを設定します。
chainlit create-secret
.envファイルの設定例：
CHAINLIT_AUTH_SECRET=your_secret_key
今回のケースでは、自分で.envファイルをNEO4J_HOMEの直下に作成して、設定を行いました。

 2. プログラムの構成Chainlitを使用してPDFファイルの内容をNeo4jに保存し、質問応答を行うPythonプログラムを以下に示します。

冒頭でも述べましたが、@ssfujita(Shinjiro Fujita)さんのプログラムをOpenAI用にカスタマイズさせていただきました。
import os
from dotenv import load_dotenv
load_dotenv()

from langchain_community.document_loaders import PyPDFLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_core.documents import Document
from langchain_core.prompts import PromptTemplate
from langchain_community.vectorstores import Neo4jVector
from langchain_openai import ChatOpenAI
from langchain_community.graphs import Neo4jGraph
from langchain_experimental.graph_transformers import LLMGraphTransformer
from langchain_community.chains.graph_qa.cypher import GraphCypherQAChain

from typing import Optional
import chainlit as cl

from langchain_openai import OpenAIEmbeddings

# Neo4j接続情報
url = "bolt://localhost:7687"
user = "neo4j"
pwd = "*****"
db_name = "neo4j"

# chainlitアカウント情報
chainlit_user = 'admin'
chainlit_pwd = 'admin'

# embeddingモデル設定
embedding_model = OpenAIEmbeddings(model='text-embedding-ada-002')
# LLM設定
llm = ChatOpenAI(model="gpt-4o-mini")

# Chainlitの認証設定
@cl.password_auth_callback
def auth_callback(username: str, password: str):
    if (username, password) == (chainlit_user, chainlit_pwd):
        return cl.User(
            identifier=chainlit_user, metadata={"role": "user", "provider": "credentials"}
        )
    else:
        return None

@cl.on_chat_start
async def on_chat_start():
    # ファイルアップロードの処理
    files = None
    while files is None:
        # chainlitのファイルアップロード機能を利用
        files = await cl.AskFileMessage(
            # ファイルの最大サイズ
            max_size_mb=20,
            # ファイルをアップロードさせる画面のメッセージ
            content="PDFを選択してください。",
            # PDFファイルを指定する
            accept=["application/pdf"],
            # タイムアウトなし
            raise_on_timeout=False,
        ).send()    
     
    loader = PyPDFLoader(files[0].path)
    
    # テキスト抽出
    pages = loader.load_and_split()

    # テキスト分割
    text_splitter = RecursiveCharacterTextSplitter(chunk_size=200, chunk_overlap=40)
    docs = text_splitter.split_documents(pages)

    # 分割結果を一時保存
    lc_docs = []
    for doc in docs:
        lc_docs.append(Document(page_content=doc.page_content.replace("\n", ""), metadata={'source': files[0].name}))
    
    # Neo4jへの接続情報を設定してgraphインスタンスを作成
    graph = Neo4jGraph(
        url=url,
        username=user,
        password=pwd,
        database=db_name
    )
    
    # DB内のグラフを削除するクエリ
    cypher = """
      MATCH (n)
      DETACH DELETE n;
    """
    
    # 既存グラフを削除して前回の内容をリセット
    graph.query(cypher)  
    
    # llmを使いドキュメントをグラフに変換するtransformerを作成
    transformer = LLMGraphTransformer(
        llm=llm,
        allowed_nodes=["entity"], # ノードのラベルに「entity」を設定
        node_properties=["text"], # ノードのプロパティに「text」を設定
        relationship_properties=True # リレーションシップのプロパティ生成を「True」に設定
    ) 
    
    # ドキュメントをグラフに変換
    graph_documents = transformer.convert_to_graph_documents(lc_docs)
    
    # 変換したグラフをデータベースに保存
    graph.add_graph_documents(graph_documents, include_source=True) 
    
    # ベクトルデータを含む検索用インデックス作成
    index = Neo4jVector.from_existing_graph(
        embedding=embedding_model,
        url=url,
        username=user,
        password=pwd,
        database=db_name,
        node_label="entity", # 検索対象ノード
        text_node_properties=["id", "text"], # 検索対象プロパティ
        embedding_node_property="embedding", # ベクトルデータの保存先プロパティ
        index_name="vector_index", # ベクトル検索用のインデックス名
        keyword_index_name="entity_index", # 全文検索用のインデックス名
        search_type="hybrid" # 検索タイプに「ハイブリッド」を設定
    )
    
    await cl.Message(content=f"`{files[0].name}` の準備が完了しました。").send()

    # Cypherクエリ用のプロンプトテンプレート
    template = """
    Task: グラフデータベースに問い合わせるCypher文を生成する。
    
    指示:
    schemaで提供されている関係タイプとプロパティのみを使用してください。
    提供されていない他の関係タイプやプロパティは使用しないでください。
    
    schema:
    {schema}
    
    注意: 回答に説明や謝罪は含めないでください。
    Cypher ステートメントを作成すること以外を問うような質問には回答しないでください。
    生成された Cypher ステートメント以外のテキストを含めないでください。
    
    質問: {question}""" 

    # プロンプトの設定
    question_prompt = PromptTemplate(
        template=template, # プロンプトテンプレートをセット
        input_variables=["schema", "question"] # プロンプトに挿入する変数
    )

    # Cypherクエリを作成 → 実行 → 結果から回答を行うChainを作成
    qa = GraphCypherQAChain.from_llm(
        llm=llm,
        graph=graph,
        cypher_prompt=question_prompt,
        allow_dangerous_requests=True
    ) 

    # セッション登録
    cl.user_session.set("runnable", qa)

@cl.on_message
async def on_message(message: cl.Message):
    # セッション情報から設定を読み込み
    runnable=cl.user_session.get("runnable")
    
    # Chainlit設定
    cb = cl.AsyncLangchainCallbackHandler(
        stream_final_answer=True,
        answer_prefix_tokens=["FINAL", "ANSWER"]
    )
    
    cb.answer_reached=True
    
    # 回答生成
    res=await runnable.ainvoke({"query": message.content}, callbacks=[cb])
    
    # 回答表示
    await cl.Message(content=f"\nAnswer:\n"+res['result']).send()
以下に、特に説明した方が良いと思う点について、記述いたします。

 接続設定URLはbolt://の場合はポートが7687のようでしたので、そのように設定しました。また、userやdb_nameはデフォルトではneo4jになっているようでしたので、そのまま使ってみました。
# Neo4j接続情報
url = "bolt://localhost:7687"
user = "neo4j"
pwd = "*****"
db_name = "neo4j"

 LLMの選択OpenAIのモデルである、gpt-4o-miniを採用しました。お財布事情によるものです・・・
# LLM設定
llm = ChatOpenAI(model="gpt-4o-mini")

 Embeddingモデルの選択OpenAIのモデルを使用しました。
embedding_model = OpenAIEmbeddings(model='text-embedding-ada-002')

 認証設定適宜、認証設定も行っています。思い切り流用させていただきました。
# Chainlitの認証設定
@cl.password_auth_callback
def auth_callback(username: str, password: str):
    if (username, password) == (chainlit_user, chainlit_pwd):
        return cl.User(
            identifier=chainlit_user, metadata={"role": "user", "provider": "credentials"}
        )
    else:
        return None


 実行Chainlitが正常に起動しました。

こちらが開発環境のVSCodeのイメージ画像です。

それから、こちらがWebブラウザです。

では、ChainlitにPDFファイルを投入してみます。正常に処理がされたようです。

chainlitではうんともすんとも言わないので、少し不安になりましたが、VSCodeでは完了していることを確認することができました。


 プロンプト表示では、Neo4jをみてみます。(ドキドキ)
なんか出てるみたいですね。成功したように見えます。

これで、チャットの質問に答えるためのネタがそろいました。

 質問受信時では、データは出来上がったようなので、質問を投げてみることにします。
ん？大丈夫か？

おお、なんとか食らいついてきた…


 おわりに今回の試みで、無事にNeo4jを自前で構築し、グラフを描画できるようになりました。しかし、回答の質が向上したかはまだ不明です。今後は、GPT-4oや他の高性能なモデルに切り替えて改善を図りたいと思います。

Discussion

木村たろう

現在、某ユーザ企業の情報システム部門、いわゆる「情シス」に所属。以前はソフトウェア会社に勤務をしてPGやPLなどをやってきたが、それほどプログラミングをできるわけでもなく、歳もとってきており、ソフトウェア開発で働き続けることに未来への漠然な不安から現在の会社に所属。 npwitys.com/

背景・目的
参考資料
フォルダ構成
サーバ側環境設定
アプリ側プログラム
実行
1. プロンプト表示
2. 質問受信時
おわりに

背景・目的

参考資料

フォルダ構成

サーバ側 環境設定

1. Neo4jのダウンロード

2. 解凍と配置

3. 環境変数の設定

4. 認証設定

5. サーバ起動

6. APOCプラグインのインストール

neo4j.confの修正

APOCライブラリの配置

7. サーバ再起動

アプリ側 プログラム

1. .envファイルの設定

2. プログラムの構成

接続設定

LLMの選択

Embeddingモデルの選択

認証設定

実行

プロンプト表示

質問受信時

おわりに

Discussion

サーバ側環境設定

アプリ側プログラム