はじめに
企業での生成 AI 活用は今や必須となりましたが、セキュリティや運用コストの観点から導入ツールに悩む企業も多いのではないでしょうか。
私たち Contrea でも 2024 年初頭からさまざまな 社内AI ツールを試行錯誤してきました。最終的に Notion AI に落ち着いた経緯と、その決め手となったポイントについてお話しします。
企業 AI 導入の課題
ChatGPT の登場当初、最大の課題はセキュリティでした。社外秘情報を安全に扱えないため、多くの企業が導入を躊躇していました。
そこで私たちが最初に検討したのは、学習やデータ保持を行わないAPI を活用したオンプレミス運用でした。
第一段階：LibreChat の導入
選定理由
複数の選択肢を検討した結果、LibreChat を選定しました。決め手となったのは、複数ベンダーの API に対応していること、ChatGPT に似た直感的な UI、そしてオンプレミス運用が可能という点でした。
運用結果
2024 年 1 月に導入し、当初は好調でした。特に GPT-4 が ChatGPT では有料プランのみだった時期だったため、社内での利用率は高い状況でした。
2024年1月に導入した際の投稿
しかし、AI を頻繁に使う一部のユーザーからは不満の声も上がりました。主な問題は、入力形式が限定的であること(画像がインプットできない、URLを入れられないなど)、Web 検索結果が適切に表示されないこと、そしてチャット UI の使い勝手が物足りないことでした。
第二段階：Dify への移行
RAG ブームと Dify 導入
2024 年 7 月頃、社内ナレッジを活用した AI 活用が主流になり始めました。いわゆる RAG（Retrieval-Augmented Generation）の流行です。
この流れを受けて、RAG を活用したワークフローを自由に組める Dify を導入しました。
運用上の課題
社内説明会やハッカソンも実施しましたが、想定より普及しませんでした。ワークフロー作成は結局エンジニアしか作らず、単純なチャット UI のみが利用されている状況でした。また、Notion・Slack との連携には独自アプリケーションの開発・保守が必要で、一人での運用体制では維持が困難という問題もありました。
勉強会自体は社内メンバーがたくさん参加し関心は高かったものの、ワークフロー作成ハードルが高かった
見えてきた課題
この時点で明確になった課題は、運用コスト、使いこなしの難易度、データ連携の複雑さでした。アップデート対応や保守が想像以上に大変で、エンジニア以外にはワークフロー作成が困難、既存ツールとの連携には専用アプリケーションが必要という状況でした。
API コストのみで運用できる点は魅力的でしたが、生成 AI 活用が本格化するにつれて限界が見えてきました。
転機：Notion AI との出会い
最初の印象
Notion AI 登場当初、正直なところ魅力を感じていませんでした。
「文章作成を AI が補助してくれるだけなら、ChatGPT と何が違うのか？」
「検索機能もあるようだが、情報は足りなく精度は微妙そうだし...」
料金も既存プランに上乗せされることから、費用対効果を見込めず導入には消極的でした。
業界の逆風
さらに、MCP（Model Context Protocol）の登場時期に、Notion MCP の API 呼び出し回数の多さが話題となり、「Notion のブロック構造は AI に向いていない」という論調が強くなっていました。
Notion AI の真価
流れを変えた 2 つの機能
流れが変わったのは、データ集約機能と AI ミーティングノートという 2 つの機能でした。
データ集約の威力
RAG が注目される中で、社内 AI ツールの最重要ポイントはデータ集約であることが明確になりました。
Notion AI は、スタートアップでよく使われる Slack、Google Workspace、GitHub などのツールのデータを準リアルタイムで集約できます。この統合性は、他のツールでは実現困難でした。
決定打となった AI ミーティングノート
導入の最終的な決め手は、AI ミーティングノート機能でした。
私たちが AI 議事録ツールに求めていたのは、「情報管理場所との近さ」です。コンテキストを簡単にインプットでき、アウトプットもそのまま管理に活用できることが重要でした。
Notion AI のミーティングノート機能は、この要件を満たしていました。無料枠で何回か試用した結果、即座にトライアル導入を決定しました。
当初の懸念だった検索機能も、モデルの改良やNotion内部での文章管理の性能強化により、実運用可能と判断できるクオリティまで上がっていました。
現在の運用状況
現在Notion AI を 2 ヶ月ほど全社で運用しています。詳細なメリット・デメリットについては、こちらのイベントでお話しする予定です！
8月8日19時よりContrea東京オフィスにて開催いたします。
他にも生成AIを活用した開発生産性向上を中心にお話しさせていただきます。
お酒と軽食等もありますのでぜひお気軽にお越しください！
お待ちしております
まとめ
企業での AI 導入は、まだまだ試行錯誤されている段階だと思われます。
私たちの試行錯誤から得られた教訓は、セキュリティ・料金・使い勝手の3つがベーシックにありながらも、その上に期待する成果が得られるかが重要であるということです。
オンプレミスの運用は柔軟性がありますが、その分運用コストと特に社内ナレッジを集約させていくとなるとコストが爆増していきます。
Notion AIも完璧なツールではありませんが、現在の私たちには最適解だと考えております。皆さんの会社でも、自社の状況に合った AI ツールを見つける参考になれば幸いです。
インフォームドコンセント支援システム「MediOS」を開発するContreaのProductチームのブログです。 様々なバックグラウンドをもつメンバーが所属し、医療の未来を作る仕事をしております。
Discussion