🍓

OpenAIの最新AIモデルStrawberryとOrion(GPT-5)とは?

2024/08/31に公開3

はじめまして、ますみです!

株式会社Galirage(ガリレージ)という「生成AIに特化して、システム開発・アドバイザリー支援・研修支援をしているIT企業」で、代表をしております^^

自己紹介.png

この記事では、つい最近発表された、OpenAIのAI技術であるStrawberry(ストロベリー)と、これからGPT-5としてリリースされるのではないかと噂されているOrion(オライオン)について紹介します。

もしもChatGPTの基礎知識について先に学んでおきたい方は、こちらを先にご覧ください◎

https://zenn.dev/umi_mori/books/chatbot-chatgpt

Strawberryとは?

まずStrawberryとは、「OpenAIの新しい生成AI技術のコードネーム」です。

このモデルは、既存のChatGPTのモデルでは解くことができない問題を解けるようにすることを目指したモデルです。

2023年末に「CEOのサムアルトマンさんの退任騒動」のきっかけとなっていたと噂される「Q*」の後継プロジェクトなのではないかと言われています。

これまでAIで解くことが不可能と言われていたようなタスクも解くことができる可能性があり、生成AI界隈だと非常に注目されています。

Strawberryのすごい点

私の視点からみて、Strawberryのすごい点は、「自己学習能力」にあると考えています。

より具体的には、「Reasoning Capability(推論能力)」がとても高いと言われています。

この推論能力の高さの裏側には、自己学習能力があります。
Strawberryは、自らの誤りを学習し、それを元に推論能力を向上させることができると言われています。

要素技術としては、スタンフォード大学が発表した「STaR(Self-Taught Reasoner)」という技術が使われています。

STaR(Self-Taught Reasoner)とは?

STaR(Self-Taught Reasoner)とは、回答生成時に、回答と一緒に解説文も生成します。そして、この解説文を含めた文章を用いて、自分のモデルに対してFine-tuningを行い、自己学習を繰り返します。

このようにして、これまでの「受動的な学習(Reactive Learning)」ではなく、「能動的な学習(Proactive Learning)」を行います。


STaR: self-taught reasoner bootstrapping reasoning with reasoningより引用

LHT(Long-Horizon Tasks)とは?

さらに、Strawberryは、LHT(Long-Horizon Tasks)と呼ばれる、長期的なタスクへの対応も得意とするように実装されています。

Strawberryの精度結果

上記のような技術発展の結果、推論能力の求められる課題において、飛躍的な精度向上が見込まれています。

例えば、複雑な数理問題を解くMATHの問題で、飛躍的な成長を遂げました。

モデル 精度
GPT-4 53%
GPT-4o 76.6%
Strawberry 90%

また、New York Timesに載っているような複雑なパズルを解くことができると言われております。

ここに対する対抗モデルとしては、Google DeepMindの「AlphaProof」や「AlphaGemometry」などの数理問題解決型のAIが挙げられます。

その他にも、具体的に以下のタスクも得意としています。

  1. 高度な数理問題の解読
  2. 戦略策定におけるデータ分析
  3. 高品質な合成データの生成

さらに、最後の高品質な「合成データ(Synthetic Data)」の生成も強みの一つになります。

合成データは、生成AIの分野でこれからより一層脚光を浴びるのではないかと考えています。

理由としては、データプライバシーの観点を気にせずに、データを大量生成して、学習に扱うことができるからです。

また、ポイズニングされているリスクも限りなく低いです。

Strawberryの危険性(リスク)

もしも自己学習が順調に進んだ場合、推論能力および自己学習能力が高すぎて、AGIとしての危険性が出てきます。

本当の意味での「シンギュラリティ(技術的特異点)を超えてしまうリスク」があると考えることができます。

アメリカ国家安全保障局にこのテーマについて、事前共有しているほど、社会に影響力のあるモデルと言えるでしょう。

そして、OpenAIの社内的にも、30人いたAI安全保障チーム(OpenAI's Safety Team)のうち、14人が退職して、16人しか残っていません。

特に、AI Safetyにおいて、重要な人物とされていた、John ShulmanというOpenAIの共同創業者は、AIの安全性を重視するAnthropicへ転職しました。

さらに、同じく共同創業者でなおかつChief ScientistだったIlya Sutskever氏も、OpenAIを退職して、Safe Superintelligence Inc.(SSI)という会社を立ち上げました。

Strawberryの将来性

Strawberryは、二つの用途で展開されることが噂されています。

一つが、Orionです。
もう一つが、CUA(Computer-Using Agent)です。

CUA(Computer-Using Agent)は、「Webブラウザを扱うことができるエージェント」です。

おそらく、SearchGPTのような形で、使用されるイメージです。

Orionとは?

そして、Orionについては、まだ公開情報が少ないですが、GPT-5になるのではないかと噂されています。

Orionとの中で、Strawberryが担う可能性があると言われています。

さらに、OpenAIの内部文書による、早ければ、2024年秋頃にリリースされる予定だと言われています。

2024年秋には、OpenAI DevDayというイベントが控えており、ここでOrionが発表されることが期待されます😆

https://openai.com/devday/

最後に

最後まで読んでくださり、ありがとうございました!
この記事を通して、少しでもあなたの学びに役立てば幸いです!

おまけ①:生成AIアカデミー

より専門的な「生成AIエンジニア人材」を目指しませんか?

そんな方々に向けて、「生成AIアカデミー(旧:生成AIエンジニア塾)」というプログラムを始めました🎉

最終的なゴールとして、『エンタープライズ向けの生成AIシステムを構築するためのスキルを習得し、大手案件で活躍できる人材』を目標とします。

また、一人一人にしっかりと向き合って、メンタリングをできるようにするため、現在メンバーの人数制限をしております。本気度やスキルレベルの高い人から、順番にご案内しております。

▼ 登録はこちらから ▼
https://bit.ly/generative_ai_engineer_school_by_zenn

おまけ②:AI Newsletter for Biz

最新のAIニュースの情報を収集しませんか?

AI Newsltter for Bizは、ビジネスパーソン向けに「AIニュース」を定期配信する完全無料のニュースレターです📩

一人でも多くの方にとって、「AI人材としてのスキルアップ」につながれば幸いです^^

また、現在、登録者限定で「明日から使える 無料AIサービス3選」のPDFを配布中です 🎁
※ ご登録完了のメールに、PDFリンクを添付いたします。

期間限定のプレゼントとなりますので、ぜひ、お早めにご登録ください!

▼ 登録はこちらから ▼
https://bit.ly/ai_newsletter_for_biz_zenn

参考文献

https://www.reuters.com/technology/artificial-intelligence/openai-working-new-reasoning-technology-under-code-name-strawberry-2024-07-12/

https://www.theinformation.com/articles/openai-shows-strawberry-ai-to-the-feds-and-uses-it-to-develop-orion

Discussion

Kenshin_5680Kenshin_5680

はじめまして。
気になったので伺いたいんですが、Orionは「オリオン」では無く「オライオン」なのでしょうか?
ギリシャの英雄オリオンから付けたのかな?とずっと思っていたのですが・・・。

ますみ / 生成AIエンジニアますみ / 生成AIエンジニア

ご質問ありがとうございます!

ここは、人によって、呼び方は違うかもしれませんが、海外の人は、オライオンと呼ぶ印象があります^^

Kenshin_5680Kenshin_5680

あ~ジェミニとジェミナイの時みたいな感じですか!
理解しました!
答えていただきありがとうございます!また一つ賢くなりました😄