Difyで社内の生成AI活用を地道にすすめた話
はじめに
こんにちは、株式会社ZENKIGENのyagiriharaです。
harutakaというプロダクトの開発マネージャーを務めるかたわら、社内の生成AI活用推進にも取り組んでいます。
(メインはプロダクト開発をしつつも、社内の生成AI活用も進めているエンジニア、多いのではないでしょうか。)
この記事では、Google Cloud 主催の第9回 Leader's Meetupで発表した内容をもとに、生成AIの社内活用について共有します。
Google Cloud 主催 Leader's Meetupについて
Google Cloud主催のLeader's Meetupは、生成AIがもたらすビジネス変革や実業務における課題について、業界リーダーの方々と議論を深める場です。
Google Cloudの最新情報はもちろん、各企業の生成AI活用事例を直接聞くことができる貴重な機会でした。
今回のイベントでは、最新のGoogle Cloudの情報に触れたり、様々な企業のプロダクト・生成AI導入の事例を聞くことができました。
私は10分間のLTセッションで「Self hosted Dify を Google Cloud で構築して生成AI活用を促進した話」というテーマで発表させていただきました。
Google オフィス
背景:生成AI活用推進がはじまったきっかけ
約半年前、CEOから「生成AIをもっと社内で活用したい!!」という要望をもらいました。
弊社ではGoogle Workspaceを使っており、Geminiが利用可能な環境でしたが、そこまでは活用されていない状況でした。
実態を把握するために、社内アンケートを実施してみると、以下のような結果が出ました:
- 約半数の社員が「毎日5回以上」生成AIを使用
- 残りの半数は「週に数回」または「1日1回」程度の使用頻度
- 使用を躊躇する主な理由は「セキュリティ・プライバシー懸念」
弊社は面接動画を解析してフィードバックするサービスを提供しており、特にセキュリティ面での懸念が大きかったんですね。また、アンケートからは「どこに何を入れていいかわからない」という声も多く聞かれました。
Difyによるセキュアな環境構築
セキュリティ懸念を解消するために、Difyを利用した自社環境内で完結するAIプラットフォームを構築することにしました。
Difyとは、ノーコードでAIアプリケーションが作成できるオープンソースのプラットフォームです。
すでに、たくさん記事も出ているので、説明は不要かと思います。
クラウド版とコミュニティ版があり、今回はコミュニティ版を選択して自社環境内で閉じた形で利用しています。
Difyのユーザーインターフェース
コミュニティ版DifyのSelf hostを選んだ理由:
- ノーコードで直感的な操作と作成が可能
- 機密情報を自社環境内に閉じて保持したい
- 生成AI活用推進は本業ではないので、なるべく楽にしたい
Google Cloudでの実装
Google Cloudの以下のサービスを利用してベーシックな構成でDifyを実装しました:
実装のポイント:
- Terraformで管理し、バージョンアップも容易に
- 社内のGoogleアドレスと連携した認証システム
- 社内に閉じたログ管理でセキュリティ監視が可能
- コスト効率の良い構成
https://github.com/DeNA/dify-google-cloud-terraform を参考にさせていただきました。
地道な活用促進の取り組み
しかし、セキュアな環境を構築しただけでは、実際の活用は進みませんでした。
またアンケートを見てみると、「自分の業務に合った活用事例の共有」や「ワークショップ開催」などの要望があったため、以下3つの点を意識して活動しました:
-
生成AIとの接点を増やす
- 全社朝会で活用事例を定期的に発表する
- 非エンジニアの社員にも発表を依頼して、ハードルを下げる
- SlackのAIチャンネルで情報を積極的に発信(全社で投稿数2位になりました!)
- Slack投稿に対して「AI社長」がコメントしてくれるなど、楽しく使える工夫
-
シームレスな活用環境の整備
- Slackとの連携で日常業務の中で使いやすく
- 投稿内容に「GPT」スタンプを押すとDifyが回答する仕組みにした
-
メインプロダクトと連携し、営業が自然と触るように
- プロダクトのPoC用途でDifyを活用
- 営業チームが顧客へのデモに使えるようにプロンプト構成を整備
- 実際のプロダクト機能のリリース前に、営業が自ら試すようになった
成果
地道な活動の結果、嬉しい成果がいくつか出てきました:
-
セキュリティチェック回答の効率化
- これまでエンジニアが行っていた作業の多くを営業担当が自分で対応可能になりました。
-
自発的な活用の広がり
- 営業メンバーが自ら調べて、商談情報のまとめや引き継ぎにNotebook LMを活用
- 自分が関わらなくても自発的に活用する文化が生まれました
-
社員同士の発信量増加
- エンジニア以外のメンバーによる、LLM関連の新機能の発信が増えました
- 非エンジニアによるClaudeを使ったアプリ作成もありました
まとめ
-
既存ツールの活用で効率的な環境構築
- Google Cloudなど普段使っている環境の上に、少ない工数でセキュアな環境を構築できました
-
活用促進には地道な活動と発信が重要
- システムを作るだけでなく、実際に使ってもらうための継続的な働きかけが大切です
-
自走する文化づくりが最終目標
- 最終的には自分が関わらなくても自発的に活用が進む状態を目指しています
生成AIの活用はシステムからのアプローチだけでなく、地道なコミュニケーションなども重要と感じます。
「生成AI活用が進まない」という課題を抱えている同様の組織において、本記事で紹介した取り組みが皆さんのの活用促進のヒントになれば幸いです。
お知らせ
弊社では、ソフトウェアエンジニアを募集しています。生成AIを活用した開発、活動を一緒に実行してくれる方は、お気軽にご連絡ください!
Discussion