[1min read] GPT4

※あくまで個人の見解のメモです。　事実と異なる場合もあります。

https://openai.com/research/gpt-4

2023/3/14　に発表されたGPT4

テクニカルレポートが公開されているらしい。

• 入力にテキストと画像を受け付けて、テキストを出力するタイプのマルチモーダルっぽい VQAのようなことが可能っぽい。
  • 画像を入力して、何が変なの？　のような常識（というか考え方というか）を問う質問にも回答できるっぽい。
• bar exam（弁護士試験？）において、GPT3.5よりも10%の向上になった。
  • GPT4は試験系もベンチマーク評価しているらしい？
  • シンプルに言語のベンチマークでも、これまでのLLMより強い。
• モデルの学習前にスケーリングの試算を行なっているっぽい。
• GPT４になっても、これまでのGPTfamilyと同じようにHallucinationなどの問題はあるらしい　。
  • それでもGPT3.5よりは減ったらしい。
• 新しいリスクを考えるため、いろんな方面のエキスパートと共にリスクテストをしたらしい。
  • モデルが安全な出力をするために、RBRMs(Rule-based Rewards Model)を導入した
    • RBRMsは入力プロンプト、モデル出力、適正か否かの評価ルールを入力することで、出力を評価するClassifierらしい。
    • これによって、悪意のある表現をGPT3.5より減らしたらしい。