はじめに
株式会社ヘッドウォータースではRAGを構築することが多々あります。
Azure AI Searchを使ったRAG構成がよくある中で、他のRAGサービスはどんなものか調べるためにDifyを触ってみようと思います。
どんな感じで使えるのか、簡単にご紹介します。
Difyとは
Dify（ディファイ）とは、プログラミングの知識がなくても、チャットボットやテキスト生成などのアプリを開発できるサービスです。ノーコードと呼ばれるアプリ、サービスです。その名の通り、プログラミングをしなくてもアプリを簡単に作れてしまうという初学者には優しいサービスです。
使い方
まずは適当な社内ドキュメントを作ってナレッジベースを作ります。
ドキュメントはLLMに作ってもらってください。
今回は社内規定という位置づけで、ルールを5つまとめたパワポを用意しました。
Difyにアクセス、ログインしてナレッジベースを作成します。
先ほど用意したドキュメントを格納してください。
設定は自由にどうぞ。今回は精度を求めないので自動＆経済的を選びました。
アップロードが成功すると、緑色で表示されます。それを確認したらヘッダーにあるスタジオをクリックしてください。
最初から作成を選択してください。
タイプやオーケストレーションなどを指定したら作成ボタンを押します。
こんな感じの画面になるので、プロンプトやナレッジベースを作成してください。
右側でデバックもできるので、RAGが出来ているか確認しながらやってみてください。
LLMも好きなモデルを選択できます。
RAGでドキュメント情報を取得できているときは、引用が見えるようです。取得できていないときはただの回答しか返ってこないようです。
アプリを公開すると、チャットボットが簡単に構築できました。ちょー楽です。
手当については社内規定に記載していないのでそれっぽいものを答えてるようですが、それ以外はドキュメントを取得できているようです。
所感
めちゃめちゃ簡単にRAGを構築できました。
精度は求めていない人、安く個人でRAGを構築したい人はおすすめかもしれません。
ただ、エンタープライズで使うなら精度面は怪しいですし、細かいチューニングが出来なさそうなので限界はありそうです。(精度を求めないわけがないですが…)
精度を一人の力で上げることが難しいので、我々のような企業が存在価値があるんだろうなと感じました。
改めてヘッドウォータースでしかできないRAG構築、精度向上を実現していきたいなと思うことが出来ました！
Discussion