第1回 社内用生成AI Webアプリケーションをどのように作っているか 連載予告編

本エントリはUbie 生成AI Advent Calendar 2024の4日目です。

Ubieでは、社内用の生成AI Webアプリケーションを開発・運用しています。当初はソフトウェアエンジニア向けの支援ツールとして始まりましたが、現在では社内のほとんどの業務領域で活用するWebアプリケーションになりました。

本連載では、社内用生成AI Webアプリケーションのそれぞれの機能の開発背景や機能概要、実装方法、どのように使われているかなどを複数回に分けて解説します。今回は、なぜ社内用に生成AI Webアプリケーションを開発したかを簡単に解説し、今後の連載予定の内容を紹介します。

社内用の生成AI Webアプリケーションを開発した背景

現在、社内で運用している生成AI Webアプリケーション「Dev Genius」（以後、Dev Genius）は、多岐にわたる業務支援の機能を提供しています。Dev Geniusの主な機能には、AI対話（各種モデルを用いたチャットセッション、システムプロンプトのプリセット保存や共有）、音声処理（リアルタイム音声書き起こし、音声・動画ファイルからの書き起こし）、UI実装支援（デザインシステムに即したUI生成）、外部連携（Slack連携、Github連携、Web検索、Notion連携）などがあります。社内では主に「Dev爺（デブじい）」という愛称で呼ばれています。

2023年3月、OpenAIがストリーミングに対応したGPT-3.5 TurboをAPIで提供開始したことで、一気に実用的な利用が可能になりました。そこで、社内のソフトウェアエンジニアの業務効率化を目的として、シンプルなチャットインターフェースを備えたWebアプリケーションのプロトタイプを作成しました。構成はNext.js+API Routes、AlloyDB for PostgreSQL、Langchain.jsというシンプルなものです。

単純なチャット機能を備えたものを公開したところ、ソフトウェアエンジニアを中心に色々な要望がすぐに集まり始めました。

このプロトタイプを基に、本格的に社内向け生成AIアプリケーションとして開発を継続するか、費用対効果や利用率、継続性などを検討しました。主な検討項目と結果は以下の通りです：

• 社内情報の取り扱い
  • OpenAI API利用規約をリーガルチームと精査し、API経由の場合、学習での利用がされないことを確認できた。
• 業務効率化の可能性
  • ソフトウェアエンジニア向け
    • コード生成、レビュー支援、設計相談などで、開発工数の20%削減、レビュー時間15%短縮などが期待できることがわかった。
  • その他の部署向け
    • 文章要約、他言語への翻訳、文章のレビューや作成支援、アイデアの壁打ち、定型的な業務の半自動化などの活用が期待できることがわかった。
• 費用対効果
  • 既存SaaSソリューション（この時点ではChatGPTの有料版など）と比較し、API利用量のコストやインフラコストの面で優位性を確認できた。ただし、開発の人件費の計上方法については検討が必要。
• 内製化のメリット
  • 技術スタックをプロダクトと合わせることで、多くのソフトウェアエンジニアが開発に参加できる。また、社内ユースケースに対して直接的な機能開発ができる。

これらの検討結果を受け、他の職種向けに進んでいた生成AI利活用の取り組みとも合流し、最終的には全社員向けの社内用生成AI Webアプリケーションとして開発していくことが決まりました。

現在では…

全社員への展開、要望・活用事例収集、草の根活動など紆余曲折を経て現在に至りますが、この辺りはキリが無くなるので、他エントリにお任せしようかなと思います。

現在では月間で社内の85%程度のメンバーが利用するようになりました。また、Notion AI、NotebookLM、Cursor、Github Copilotなどの導入もしています。それぞれいいとこ取りをしながら、社内業務効率化やプロダクト開発にインパクトを出せる仕組みを構築しています。

頑張って集計してる画面、ほんとはBQでやりたい

今後の連載予定

Ubie 生成AI Advent Calendar 2024の各日程に沿って、Dev Geniusが提供している機能についての解説していきます。書いていく中で予定を変える場合もあると思いますが、その場合はこちらのリストも随時更新していきます。

• 12/5(木) プロンプトを再利用する、プリセットストアと共有機能
  • ユーザーが作成したプリセットを簡単に共有できる機能について解説します。またチャットでの会話内容に基づいてプリセットを生成する、「プリセットマジック」という機能についても紹介します。
• 12/6(金) 生成AIのモデルと外部データを連携可能にする
  • LLMモデルは外部と通信する能力を持っていません。外部のデータと連携するフェッチャーの実装と、利用方法について紹介します。
• 12/12(木) Slackから生成AIを呼び出せるようにする
  • Slackでのメンションに反応するbotの実装や、プリセットとの連携などについて紹介します。
• 12/14(土) 検索機能によって会話中の知識を強化する
  • 検索APIを利用して会話中の知識を補完する機能について紹介します。
• 12/17(火) 音声書き起こしとプロンプト処理を連携する
  • 音声・動画ファイルをテキストに書き起こす機能とプロンプト処理について紹介します。クライアントサイドでの動画→音声変換についても簡単に説明します。
• 12/20(金) リアルタイム文字起こしで、議事録を自動化する
  • リアルタイムでの文字起こし機能とその実現方法について紹介します。
• 12/21(土) ワークフローによって複雑な処理を構成可能にする
  • 複雑なタスクを効率的に処理するためのワークフローの設計について解説します。
• 12/24(火) デザインシステムに即したUIを生成する「Ubie Vitals Live」
  • 社内のデザインシステムに即したUIの生成機能について紹介します。
• 12/25(水) 2025年のUbieの社内用の生成AI Webアプリケーション
  • 今後のDev Geniusの機能追加や改善点についての展望を紹介します。