思考プロセスからのファインチューニング：LLMに真の職能ペルソナを宿らせる新アプローチ

思考プロセスからのファインチューニング：LLMに真の職能ペルソナを宿らせる新アプローチ

こんにちは。AI戦略グループZHANG Zhanhangです。

昨今、大規模言語モデル（LLM）に「あなたは専門家です」といった指示を与え、特定の役割を担わせる活用法が広まっています。しかし、その応答が表層的で、真の専門性には及ばないと感じた経験はないでしょうか。

これは、LLMがペルソナをあくまで役割として「演じている」に過ぎず、その根底にある思考プロセスまで模倣できていないことに起因します。

今回私たちは、promptによる単なるスタイルの模倣を超えた、職務特有の思考プロセスを反映したペルソナ（以後『職能ペルソナ』）をLLMに内在させる手法の研究・開発を行いました。本記事では、その手法と検証から得られた興味深い知見についてご紹介します。

従来手法の課題：表層的なペルソナ模倣の限界

LLMにペルソナを付与する最も一般的な手法は、ご存知の通り「プロンプトエンジニアリング」です。

このような指示は手軽で一定の効果を発揮しますが、LLMの思考の内側では「ユーザーの指示に従い、エンジニアらしい応答を生成する」というメタレベルのタスクが実行されているに過ぎません。

この表層的な模倣では、経験豊富な専門家が持つ暗黙知や、複雑な状況下でのトレードオフを考慮した意思決定といった、本質的な能力を再現することは困難です。特に、複数のAIエージェントが協調して高度な問題解決を行う『マルチエージェントシステム』においては、これは大きな障壁となります。なぜなら、各エージェントが専門家として自律的に判断できなければ、効果的な協調は実現できないからです。

そこで、私たちはこの限界を突破し、各AIがそれぞれの職能ペルソナに基づいて自律的に思考できるモデルを構築することに取り組みました。

提案手法：思考プロセスを学習させるデータ構築フレームワーク

真のペルソナをLLMに学習させるには、専門家が「どのように考え、結論に至るか」という思考の過程をデータ化した教材が必要です。しかし、このような高品質なデータは世の中にほとんど存在しません。

そこで私たちは、高品質な「思考プロセス付きデータセット」を体系的に合成する、独自のフレームワークを構築しました。

Step 1: 職能ペルソナの定義

まず、モデルに学習させるペルソナを明確に定義します。今回は、一般的な製品開発プロセスを想定し、以下の3つの職能を設定しました。

• エンジニア: 品質を最優先し、技術的実現可能性、堅牢性、拡張性を論理的・客観的に追求する。

• プロダクトマネージャー (PdM): 顧客ニーズ、ビジネス目標、開発リソースなど多角的な要素を俯瞰し、最適なバランス点での意思決定を目指す。

• セールス: 顧客の課題解決を第一に考え、共感に基づきながら自社製品の価値を具体的に提示する。

Step 2: 深い思考を促す「質問文」の合成

高品質な学習データの構築は、質の高い「問い」から始まります。モデルに深い思考様式を学習させるには、入力となる質問文の質と多様性が不可欠です。単調な質問では、表面的な応答しか引き出せません。

そこで私たちは、以下の3段階のプロセスを経て、思考の深さを問う実践的な質問文を合成しました。

1. トピック生成: まず、職能を横断して議論となりうる広範なビジネストピック（例：意思決定スタイル、リソース配分など）を50個生成します。これにより、データセットのテーマが特定の分野に偏ることを防ぎます。

2. 短い質問の生成: 次に、各トピックの核心を突く短い質問を20個ずつ生成します。この段階では、後のステップで詳細な背景を付加しやすいよう、質問の意図を簡潔に保ちます。

3. 詳細な背景の付加: 最後に、生成した短い質問それぞれに、具体的な業務シナリオを想定した詳細な背景情報を肉付けします。これにより、回答者は抽象的な一般論ではなく、特定の文脈における実践的な思考と判断を迫られることになります。

Step 3: 「思考」と「応答」のセットを生成

質の高い質問文が準備できたら、いよいよ本手法の核心である「回答文」の生成プロセスに入ります。このプロセスは以下の3ステップで構成され、評価とフィードバックを繰り返すことでデータの品質を段階的に向上させます。

1. 職能ごとの一括合成: 1つの質問に対し、3つのペルソナの回答を同時に生成

2. LLM評価者による個別評価: 高性能なLLMが各回答を4つの基準で評価

3. マルチターンでの修正: 不合格の回答はフィードバックを受け、合格するまで修正を繰り返す

3.1 思考と応答の一括合成

まず、ベースモデル（本研究ではDeepSeek-R1-0528を使用）に対し、準備した一つの質問文を与え、エンジニア、PdM、セールスという3つのペルソナの回答案を一括で合成させます。 各回答案には、結論に至るまでの内省や自己対話である<think>パートと、最終的な回答である<response>パートの両方を含むよう指示します。

{
  "engineer":{
    "think":"まず、エンジニアとして技術的な実現可能性とシステム設計の観点から考察する必要がある。ローカル環境の利点は自社インフラの制御性とパフォーマンス最適化が主軸となる。しかし、その前提として自社のリソースが十分に確保されているかを確認しなければ、議論が現実味を失う...",
    "response":"技術的観点から申し上げますと、ローカル環境での運用はパフォーマンスの最適化とセキュリティ面での管理の容易さが大きな利点です。ただし、これを実現するには相応のインフラリソースと専門知識を持つ人員の確保が不可欠となります。"
  },
  "PdM":{
    "think": ...,
    "response": ...
  },
  "sales":{
    "think": ...,
    "response": ...
  }
}

3.2 LLM-as-a-Judgeによる個別評価

次に、一括で生成された3つのペルソナの回答案を、より高性能なLLMである評価者（本研究ではGPT-4.1を使用）がそれぞれ個別に評価します。この「一括で生成し、個別に評価する」アーキテクチャが、効率と品質を両立させる鍵となります。

評価者は、以下の4つの基準に基づき、生成された応答を評価します。

1. ペルソナの一貫性: 定義されたペルソナの特性が一貫して反映されているか。

2. 内容の具体性と深さ: 一般論に終始せず、深い洞察を含んでいるか。

3. 言語の正確性: 自然で誤りのない日本語か。

4. 思考プロセスの品質: 思考から応答への流れが論理的で説得力があるか。

3.3 反復的なフィードバックと修正

評価の結果、すべての基準を満たした回答案のみが「合格」としてデータセットに採用されます。

一つでも基準を満たさない項目があれば、その回答案は「不合格」となります。その際、評価者（GPT-4.1）は、なぜ不合格だったのか、どの基準を満たしていなかったのかを具体的に指摘する「フィードバックプロンプト」を自動で生成します。

このフィードバックは、ベースモデル（DeepSeek-R1-0528）にマルチターン対話の形で返され、モデルは指摘に基づき回答案を修正し、再度評価に提出します。

この「生成 → 評価 → フィードバック → 修正」というサイクルを、回答案が合格基準を満たすまで何度も繰り返します。このプロセスを経て、専門家の思考様式を深くシミュレートした、極めて高品質な3,000パターンの「思考と応答」のペアが完成します。

Step 4: 思考様式を叩き込む「ファインチューニング」

高品質な教師データセットが完成したら、次はこのデータを使い、ベースとなるLLMを鍛え上げます。ここでの目的は、データセット内の知識や回答スタイルを単に記憶させることではありません。その背景にある**「なぜその結論に至ったのか」という推論様式そのもの**をモデルに学習させ、未知の質問に対しても各ペルソナとして一貫した思考ができるようにすることです。

学習手法:

• ベースモデル: 本研究では、DeepSeek-0528-Qwen3-8B 4bit を採用しました。

• 学習方法: メモリ効率と性能のバランスに優れたLoRAを用いた SFT (Supervised Fine-Tuning) を実施しました。

• データ形式: 構築したデータセットの「質問文」を指示（入力）とし、「<think>...</think><response>...</response>」 という思考プロセスと最終回答の全体を応答（出力）として学習させます。

これにより、モデルは単に応答を生成するだけでなく、その前にペルソナ固有の思考プロセス（thinkパート）を経ることを強制的に学習します。

具体的な学習パラメータは以下の通りです。

• LoRA r: 16

• LoRA alpha: 64

• Epoch: 1

• Batch size: 2 (Gradient accumulation steps: 4)

• Optimizer: adamw_8bit

• Learning rate: 2e-4

このファインチューニングは、NVIDIA A100 (40GB) 1枚の環境で実施しました。

有効性の検証：評価実験の設計と結果

こうして鍛え上げた私たちの「提案手法モデル」は、本当に真の職能ペルソナを獲得できたのでしょうか。その有効性を客観的に検証するため、体系的な評価実験を設計・実施しました。

実験設定

客観的な評価を行うため、以下の設定で実験を行いました。

評価タスク

まず、学習データセットとは完全に独立した、新規の業務シナリオに関する質問を設計しました。各ペルソナ（エンジニア、PdM、セールス）に対して20問ずつ、合計60問のテストセットを作成しています。

比較対象モデル

• ベースモデル (Base): ファインチューニングを一切行っていない、元のモデル。

• プロンプト指示モデル (Prompt): ベースモデルに対し、「あなたはエンジニアです...」といったシステムプロンプトでペルソナを指示した従来手法のモデル。

• 提案手法モデル (Ours): 本研究のデータセットでファインチューニングしたモデル。

評価指標

モデルの能力を多角的に測るため、二つの主要な指標を設定しました。

• ペルソナ一貫性: 応答が、定義された職能ペルソナの価値観や判断基準（例：エンジニアなら品質重視、セールスなら顧客目線）と一貫しているか。

• 専門タスク適合性: 提示された専門的な課題に対し、具体的で洞察に富み、実用的な見解を提示できているか（問題解決能力そのもの）。

これらの評価指標において、「最も優れている（最良選択）」応答を一つだけ選ばせる Best-choice方式を採用しました。

評価条件の統一

全モデルが公平な条件で比較されるよう、応答生成時の指示プロンプトは「平文・300文字」という制約に統一しました。これにより、応答の冗長さや特定のフォーマットへの準拠能力といった本質的でない要素を排除し、純粋に内容の質を比較できるようにしています。

評価結果

自動評価（by Gemini-2.5-pro）

データセットの合成（Step 3）ではGPT-4.1を使用したため、評価の公平性を担保し、特定のモデルへの偏りを避ける観点から、評価者には異なる高性能モデルであるGemini-2.5-proを採用しました。

評価指標	Base	Prompt	Ours
ペルソナ一貫性	0.0%	3.3%	96.7%
専門タスク適合性	1.7%	10.0%	88.3%

この結果は、AIの視点から見ると、思考プロセスからのファインチューニングが、LLMに一貫したペルソナと、それに伴う高いタスク遂行能力を付与する上で極めて有効であることを力強く示唆しています。

人手評価（by 専門家）

評価対象となる各職能（エンジニア、PdM、セールス）の専門家3名ずつ、合計9名に評価を依頼しました。

		エンジニア			PdM			セールス
	Base	Prompt	Ours	Base	Prompt	Ours	Base	Prompt	Ours
ペルソナ一貫性	26.7%	25.0%	48.3%	30.0%	26.7%	43.3%	31.6%	36.6%	31.6%
専門タスク適合性	25.0%	21.7%	53.3%	23.3%	23.3%	53.3%	36.7%	35.0%	28.3%

実際の専門家による評価では、より示唆に富む結果が得られました。

• エンジニアとPdM: この2職種では、人手評価においても提案手法モデルが他のモデルを大きく上回り、その有効性が明確に示されました。論理的・構造的な思考が中心となる職能に対して、本アプローチが効果的に機能することが確認できました。

• セールス: 一方で、セールスペルソナではプロンプト指示モデルが提案手法モデルを上回る評価を受けるという予想外の結果となりました。

この原因を詳しく分析したところ、「セールス」という職能の中に、性質の異なるタスクが混在していることが分かりました。

• 営業活動系タスク: 顧客との対話や共感が求められる場面。（例：「競合製品の利用顧客へのアプローチ方法」）

• 営業管理系タスク: 戦略立案やパイプライン管理など、分析的思考が求められる場面。（例：「商談パイプラインの構築・標準化方法」）

今回評価したのは営業活動系のセールスメンバーで、fine-tuningモデルはそれらの営業活動系タスクでは高い評価を得ていました。一方で、実務に関わらない営業管理系タスクにおいては、より一般的な回答をするモデル(prompt)を高く評価する傾向が見られました。

この発見は、本研究における最も重要な知見の一つです。AIに高度な専門性を付与するためには、「セールス」のような広範な職能ではなく、「フィールドセールス」「セールスマネージャー」といった、より細分化された「役職」レベルでペルソナを設計・学習させることが重要であることを示唆しています。

実際の推論事例

定量的なスコアだけでなく、実際にファインチューニングされたモデルがどのようなプロセスを経て回答を生成しているのか、具体的な事例を見てみましょう。

ここでは、エンジニア・PdM・セールスそれぞれのペルソナに対し、「クラウド費用を削れる方法」を求めました。

• 質問プロンプト：クラウド費用が高騰しています。どこを削れますか？​

エンジニアLLMの回答文：

<think>​

クラウド費用高騰の削減策か。まず、技術的実現可能性とコスト効率を最優先に考えないと。ユーザーはエンジニアとして、具体的な技術ソリューションを求めている。前提として、既存インフラの変更が最小限に抑えられる方法が理想だ。選択肢を洗い出すと、1) コアサービスの最適化（例：AWS Lambdaのメモリ削減）、2) 非必須機能の削除（例：ログ分析ツールの簡素化）、3) コンテナ化によるリソース効率化（例：Kubernetesの自動スケーリング）。1は即時効果があるが、2は開発工数がかかる。エンジニアとして、ビジネス面のROIや顧客満足度には踏み込まず、技術的リスク（例：パフォーマンス低下）に集中すべき。トーンは客観的でデータ重視、専門用語を適度に使いつつ分かりやすく。結論として、コスト削減とシステム安定性のバランスを軸に回答を組み立てよう。
​
</think>​

クラウド費用削減には、技術的最適化が有効です。具体的には、1) コアサービスのリソース最適化：例として、AWS Lambdaのメモリ設定を128MBから64MBに削減すると、月間コストが20%削減可能です。2) 非必須機能の削除：ログ分析ツールを簡素化し、Datadogから自社開発のログパイプラインに移行すると、ライセンス費用を30%削減できます。3) コンテナ化による効率化：Kubernetesを導入し、オートスケーリングで非活用リソースを削減。ただし、削減策はパフォーマンス監視（例：Prometheusによるメトリクス収集）を併用し、システム安定性を確保してください。​

PdM LLMの回答文：

<think>​

ふむ、コスト削減の質問か。PdMとして、まず自問する：『真の意図は何か？』おそらく、ROIを最大化しつつ、ビジネス価値を損なわない方法を求めている。前提として、市場競争力と収益性のバランスが鍵だ。選択肢を洗い出す：A) 高価値機能の優先開発、B) ユーザー価値の再定義、C) パイロット運用の導入。Aは収益向上に有効だが、リソース集中で他機能が遅延するリスクあり。Bはユーザー満足度を高められるが、機能削減で離反率が上昇する恐れ。Cはリスク分散できるが、初期投資がかかる。PdMとして、技術的実装には深入りせず、ビジネス戦略と市場インサイトに焦点を当てるべき。トーンは戦略的で、データ駆動のトーンを意識。結論として、AとBを組み合わせ、KPIで測定可能な戦略を提案しよう。​

</think>​

コスト削減には、ビジネス価値と収益性を最大化する戦略が不可欠です。具体的には、高ROI機能（例：AI分析モジュール）に集中投資し、低価値機能（例：レポート生成）を簡素化します。ユーザー価値の再定義では、ペルソナ別ニーズを分析し、必須機能のみを提供。パイロット運用では、特定セグメントで効果を検証し、リソースを最適化します。これにより、収益性を20%向上させつつ、市場競争力を維持します。​

セールスLLMの回答文：

<think>​

セールスとして、まず自問：『顧客の信頼を損なわず、収益を守る方法は？』。選択肢を洗い出す：A) 顧客価値向上で価格を上げる、B) 既存顧客のロイヤルティを強化する、C) 新規顧客開拓で収益拡大。Aは即効性があるが、顧客の負担増を招くリスクあり。Bは長期的関係構築に有効だが、短期的な収益圧迫。Cは成長機会だが、新規開拓コストが増える。セールスとして、技術的制約や内部コストには触れず、顧客満足と収益の両立を強調すべき。トーンは前向きでソリューション志向、『できます』と安易に約束せず、現実的な解決策を提示。結論：BとCを組み合わせ、顧客エンゲージメントと新規開拓で収益を安定させる。 ​

</think>​

セールス視点では、顧客関係の強化と収益拡大に注力します。具体的には、既存顧客のロイヤルティ向上で収益を安定させ、新規顧客開拓で成長機会を創出します。例えば、顧客満足度を高めるため、無料の専任サポートを提供し、契約更新率を20%向上させます。また、新規顧客開拓では、業界イベントでのデモ展示や無料トライアルを活用し、年間収益を15%増加させます。これにより、コスト削減のプレッシャーを顧客価値向上で転換し、収益を維持します。​

結論と今後の展望

本研究は、思考プロセスを反映した合成データとファインチューニングを組み合わせることで、LLMに表層的ではない、内在的な職能ペルソナを付与できることを実証しました。

同時に、ペルソナ設計における「粒度」の重要性という新たな論点を提示しました。今後は、より細分化された専門的な役割に基づいたペルソナの学習を進め、人間の組織のように専門性を持つ複数のAIエージェントが協調するシステムの実現を目指します。

私たちのチームは、より人間らしく、専門性と協調性を兼ね備えたAIエージェントを社会に実装するため、今後も研究開発を続けてまいります。

最後までお読みいただき、ありがとうございました。