Difyを使ってチャットアプリを作成してみた

はじめに

こんにちは！Rehabでデータアナリストをしている松村です。

生成AI技術の技術が急速に発展しています。生成AIはさまざまな分野で応用が広がっています。
私たちのチームでも生成AIのプロダクトへの応用や、自社の業務効率化に活用できないかと検討しています。
今回は、手始めにDifyを使って簡単にチャットアプリを作成してみることにしました。

ターゲット

DifyやLLMアプリケーション作成に興味がある方。

要約

この記事では、Difyを用いてノーコードでLLMアプリを作成します。アプリ作成の詳細な手順は載せていないので、興味がある方はQuickstartを見てみてください。

Difyとは？

DifyとはノーコードでAIアプリケーションを構築できるオープンソースのLLMアプリケーション開発プラットフォームです。

difyの主な特徴

OpenAIのGPT-4、AntheropicのClaude3、などさまざまなLLMモデルを利用することができます。また、RAG（Retrieval-Augmented Generation）エンジンを搭載しているので、簡単にドキュメントの取り込み、関連する情報を検索・取得することができます。

使用方法

Dify Cloudを利用すればセットアップ不要ですくに試すことができます。
今回はDify Cloudを利用せずにDify Community Editionをセルフ・ホスティングして試してみたいと思います。

開発環境のセットアップ

Docker Composeを使って簡単にセルフ・ホスティングができるため、非常に簡単にセットアップできます。

1. リポジトリのクローン作成
   まず、Dify Community Editionのリポジトリをクローンします。

git clone [e-mail]:langgenius/dify.git
cd dify

2. Docker コンテナのビルドと起動
   Docker Compose を使用して、必要なコンテナをビルドし、起動します。

cd docker
cp .env.example .env
docker compose up -d

介護報酬改定回答アプリケーションを作成してみた

介護報酬改定について回答してくれるアプリケーションを作成してみました。今回は、モデルにはGPT-4を使用し、ナレッジベースには厚生労働省から出ている令和６年度介護報酬改定における改定事項についてのPDF資料を登録しています。

GUI上の操作だけで簡単にチャットアプリケーションを作成することができました。詳細な作成方法はQuickstartに記載されていますので、興味のある方はこちらを参照ください。

以下はアプリケーション作成画面です。左のペインで設定して、右のペインでデバッグできます。

作成したアプリケーションを実行してみます。
通所介護における単位数を聞くと、正しい値を回答してくれています。

まとめ

Difyを利用することでLLMを使ったアプリケーションを簡単に作成することができました。実用レベルにするためにはプロンプトの工夫、ナレッジベースの整備、RAGの品質を上げていく必要があります。