LLMのFine-tuningに関するサーベイ

論文のリンクがまとまっている

https://speakerdeck.com/schulta/llm-fine-tuning-dong-da-song-wei-yan-llmjiang-zuo-day5zi-liao

https://platform.openai.com/docs/guides/fine-tuning/common-use-cases

Fine-tuningのユースケース

• スタイル、トーン、フォーマットなどの質的側面を設定すること
• 所望の出力を生成する信頼性を向上させること
• 複雑なプロンプトに従うことができない場合の修正
• 特定の方法で多くのエッジケースを処理すること
• プロンプトでは明示しづらい新しいスキルやタスクを実行すること

ファインチューニングが効果的な別のシナリオは、GPT-4を置き換えるか、より短いプロンプトを使用することによって、コストや遅延を削減する場合です。GPT-4で良い結果を得ることができれば、おそらくGPT-4の完了データを使用してファインチューニングを行うことで、類似の品質を得ることができる場合があります。可能であれば、指示のプロンプトを短縮してください。