こんにちは、hosopyです。
この記事は株式会社ガラパゴス（有志）アドベントカレンダーの23日目の記事です。
本記事では、この1年の生成AI活用の組織や技術投資の観点で振り返りつつ、生成AIの活用推進に悩む方々への示唆を提供できればと思っています。
何やってるの？
弊社では現在、2つの事業を展開しています。
筆者はエンジニアとしてAIR Designの事業開発に携わっており、クライアント(主にマーケティング組織)におけるデータ活用を推進するためのデータ基盤プロダクトの開発や導入支援、生成AIを活用したマーケプロセスの変革に取り組んでいます。
気がついたらLLMに月間1億トークン
生成AIを活用したマーケティングプロセス変革の過程で、社内には現在4つのプロダクトが誕生しており、日々活用されています。
- 日常業務向けプロダクト
- Salon de glpgs - ChatGPTクローン
- AI議事録 - MTG動画から議事録自動生成
- User向けプロダクト
- AIポータル - 有用なプロンプトをカタログ化、数クリックで実行出来るツール
- Enabler(後述)向けプロダクト
- Chagall - エンジニアでなくても高度なAIワークフローを構築できるツール
これらは、Azure含むOpenAIのAPI、AWS含むClaudeのAPIをベースに構築されているのですが、ふと気になってOpenAIのAPIで入出力されているトークン数を月別に集計してみました。
気がついたら2023年11月からは月間1億トークンの大台に乗っかっているではありませんか！
残営業日を考慮すると、12月の1億トークン超えも確実そうです。
1億トークン使って何をしているのか
マーケティングx生成AI(LLM)活用の文脈では、例えばペルソナの整理であったり、キャッチコピーの案出しといったユースケースが語られるケースが多いと思います。
もちろんそのような使い方もしてはいるのですが、社内におけるトークン消費のボリュームゾーンは、AIプランニングという仕組みにあります。
AIプランニングとは、マーケティングプロセスの主に上流工程である、市場調査・競合分析・顧客プロファイル仮説構築・制作要件整理などの工程をほぼ自動化する仕組みです。
- インプット
- 顧客の企業情報、顧客とのMTG議事録、顧客のマーケティング環境に関するヒアリング内容 (商材のUSPなど)、リスティング広告キーワード、競合のURL
- アウトプット
- 市場調査、業界情報、競合調査(主に広告)、商材情報、施策提案
- ターゲットリスト(100パターン超)
- 顧客プロファイル(ペルソナ)一覧、4行プレゼン、訴求軸マップ
AIプランニングのアウトプットは、顧客のマーケティング活動における高速なPDCAを実現するためのデータとして活用しています。
AIプランニングの仕組みは、案件を限定しながら3-4ヶ月の期間で検証してきました。
11月からほぼす全ての案件で適用する流れとなり、これが1億トークン超えの背景にあります。
生成AI活用を支える組織と技術投資と文化
生成AIの活用については、ここ1年のバブル的な期待の膨らみがある一方、期待するほど利用が進まない現実や幻滅期入りを示唆する論調があるのも、また事実かと思われます。
一方で、幻滅期どころか拡大期に入り、いよいよ成果刈取も視野に入った手応えを感じている組織もまたある、というのも事実です。
弊社も、どちらかといえば後者の手応えを感じている組織になります。
この差はどこにあるのか、この1年の振り返って組織・技術投資・文化の観点で考えてみたいと思います。
(本当は技術的にも面白いトピック満載なのですが、それはまたの機会に紹介できればと思います)
組織: User,Developer,Enabler
一般的に、ソフトウェアに関する営みを登場人物の観点で捉えると、大きく開発者(Developer)とユーザー(User)が挙げられると思います。
一方で、生成AIに関する営みを振り返った時、第3の登場人物としてのイネイブラー(Enabler)の存在が大きいと感じています。
Enablerとは、ソフトウェアエンジニアやプロダクトマネジメントのバックグラウンドを持っているわけでも無ければ、AIや機械学習の理論体系に詳しいわけでもありません。
彼らの特徴は、最新技術への強い興味を持ち、LLMの性能を直感的(定性的)に捉えることができ、Userのプロセスを理解し、それらを改善する仕組みを発明することに強い情熱を持っている人、ということができます。
枯れた技術をベースにソリューションが組まれる世界においては、WhyやWhatの解像度を極限まで高めてからHowに着手するというのが王道かもしれませんが、昨今のような技術の変革期においては、WhyやWhatと同時にHowの解像度も高め、思考のタガを外してソリューションを再構築するというアプローチが重要になると考えており、その点において、Enablerが果たした役割は大きいです。
技術投資: 4つのバランス
User,Developer,Enablerの組織モデルとその営みベースに考えると、技術投資の内訳も下記4つに分類されてきます。
- 外部環境(技術進化)へのキャッチアップ
- Enablerへの投資
- Enablerが最新技術の性能を評価できるPlaygroundを最速で提供
- Enablerがユースケース開発を効率よく実施できる環境を最速で提供
- Userへの投資
- 技術基盤への投資
この1年の生成AIに関する技術投資を振り返ってみると、時期によってバランスの変化はあるものの、結果的に上記4つにフラットに投資してきた1年でした。
特徴的なのはEnablerへの投資で、前述のAIプランニングの仕組みは、Chagallという内製のノーコードツールをベースに、Enablerが構築した仕組み、でもあります。
本来であればエンジニアがLangChain等を使って構築する規模の仕組みを、Enabler単独で構築出来るように基盤を整えたことは、Enablerによるユースケース開発を高速化する意味で非常に大きかったです。
文化: 経営の覚悟
ここまでの話を踏まえて、これだけの変化を受け入れて実行に移せるだけの強力な組織文化や経営のコミットメントもまた、重要になってくると思います。
弊社の場合は、たまたま自分も含めた創業経営者の性格がギーク寄りだったいう事もあり、この点はショートカット出来たのですが、一般的な会社組織においては、文化の変革や経営のコミットメントの引き出しがボトルネックになるのではないかと思われます。
最後に
ということで、生成AIの活用推進に悩む方々への示唆になれば幸いです。
株式会社ガラパゴス（有志） 株式会社ガラパゴスのエンジニアを中心に情報発信をしている Publication です。 各記事の内容は個人の意見であり、企業を代表するものではございません。
Discussion