🍓

OpenAIの最新AIモデルStrawberryとOrion(GPT-5)とは?

2024/08/31に公開
3

はじめまして、ますみです!

株式会社Galirage(ガリレージ)という「生成AIに特化して、システム開発・アドバイザリー支援・研修支援をしているIT企業」で、代表をしております^^

自己紹介.png

この記事では、つい最近発表された、OpenAIのAI技術であるStrawberry(ストロベリー)と、これからGPT-5としてリリースされるのではないかと噂されているOrion(オライオン)について紹介します。

もしもChatGPTの基礎知識について先に学んでおきたい方は、こちらを先にご覧ください◎

https://zenn.dev/umi_mori/books/chatbot-chatgpt

Strawberryとは?

まずStrawberryとは、「OpenAIの新しい生成AI技術のコードネーム」です。

このモデルは、既存のChatGPTのモデルでは解くことができない問題を解けるようにすることを目指したモデルです。

2023年末に「CEOのサムアルトマンさんの退任騒動」のきっかけとなっていたと噂される「Q*」の後継プロジェクトなのではないかと言われています。

これまでAIで解くことが不可能と言われていたようなタスクも解くことができる可能性があり、生成AI界隈だと非常に注目されています。

Strawberryのすごい点

私の視点からみて、Strawberryのすごい点は、「自己学習能力」にあると考えています。

より具体的には、「Reasoning Capability(推論能力)」がとても高いと言われています。

この推論能力の高さの裏側には、自己学習能力があります。
Strawberryは、自らの誤りを学習し、それを元に推論能力を向上させることができると言われています。

要素技術としては、スタンフォード大学が発表した「STaR(Self-Taught Reasoner)」という技術が使われています。

STaR(Self-Taught Reasoner)とは?

STaR(Self-Taught Reasoner)とは、回答生成時に、回答と一緒に解説文も生成します。そして、この解説文を含めた文章を用いて、自分のモデルに対してFine-tuningを行い、自己学習を繰り返します。

このようにして、これまでの「受動的な学習(Reactive Learning)」ではなく、「能動的な学習(Proactive Learning)」を行います。


STaR: self-taught reasoner bootstrapping reasoning with reasoningより引用

LHT(Long-Horizon Tasks)とは?

さらに、Strawberryは、LHT(Long-Horizon Tasks)と呼ばれる、長期的なタスクへの対応も得意とするように実装されています。

Strawberryの精度結果

上記のような技術発展の結果、推論能力の求められる課題において、飛躍的な精度向上が見込まれています。

例えば、複雑な数理問題を解くMATHの問題で、飛躍的な成長を遂げました。

モデル 精度
GPT-4 53%
GPT-4o 76.6%
Strawberry 90%

また、New York Timesに載っているような複雑なパズルを解くことができると言われております。

ここに対する対抗モデルとしては、Google DeepMindの「AlphaProof」や「AlphaGemometry」などの数理問題解決型のAIが挙げられます。

その他にも、具体的に以下のタスクも得意としています。

  1. 高度な数理問題の解読
  2. 戦略策定におけるデータ分析
  3. 高品質な合成データの生成

さらに、最後の高品質な「合成データ(Synthetic Data)」の生成も強みの一つになります。

合成データは、生成AIの分野でこれからより一層脚光を浴びるのではないかと考えています。

理由としては、データプライバシーの観点を気にせずに、データを大量生成して、学習に扱うことができるからです。

また、ポイズニングされているリスクも限りなく低いです。

Strawberryの危険性(リスク)

もしも自己学習が順調に進んだ場合、推論能力および自己学習能力が高すぎて、AGIとしての危険性が出てきます。

本当の意味での「シンギュラリティ(技術的特異点)を超えてしまうリスク」があると考えることができます。

アメリカ国家安全保障局にこのテーマについて、事前共有しているほど、社会に影響力のあるモデルと言えるでしょう。

そして、OpenAIの社内的にも、30人いたAI安全保障チーム(OpenAI's Safety Team)のうち、14人が退職して、16人しか残っていません。

特に、AI Safetyにおいて、重要な人物とされていた、John ShulmanというOpenAIの共同創業者は、AIの安全性を重視するAnthropicへ転職しました。

さらに、同じく共同創業者でなおかつChief ScientistだったIlya Sutskever氏も、OpenAIを退職して、Safe Superintelligence Inc.(SSI)という会社を立ち上げました。

Strawberryの将来性

Strawberryは、二つの用途で展開されることが噂されています。

一つが、Orionです。
もう一つが、CUA(Computer-Using Agent)です。

CUA(Computer-Using Agent)は、「Webブラウザを扱うことができるエージェント」です。

おそらく、SearchGPTのような形で、使用されるイメージです。

Orionとは?

そして、Orionについては、まだ公開情報が少ないですが、GPT-5になるのではないかと噂されています。

Orionとの中で、Strawberryが担う可能性があると言われています。

さらに、OpenAIの内部文書による、早ければ、2024年秋頃にリリースされる予定だと言われています。

2024年秋には、OpenAI DevDayというイベントが控えており、ここでOrionが発表されることが期待されます😆

https://openai.com/devday/

最後に

最後まで読んでくださり、ありがとうございました!
この記事を通して、少しでもあなたの学びに役立てば幸いです!

おまけ①:Raggle

RAGの精度改善に挑戦しませんか?

Raggleにて、「法務RAGシステムの性能改善ハッカソン」を開催中です!(10月20日に募集締切)

Raggleは、RAGの性能改善技術を競い合い、AIエンジニアのスキルアップを支援するプラットフォームです🥇

優勝者(GOLD🥇)の賞金は、なんと30万円!!!

SILVERは10万円、BRONZEでも5万円の賞金を用意しています!

また、参加賞として、大会終了後に「RAG精度改善ハンドブック」を贈呈予定なため、初学者の方もぜひ挑戦してみてください 🔰

みなさん、奮ってご参加ください🔥

※ 生成AIエンジニアの権利を守るため、投稿されたソースコードの著作権は、投稿者に帰属する規約としているため、その点もご安心ください◎

▼ エントリーはこちら ▼
https://raggle.jp/competition/29676d73-5675-4278-b1a6-d4a9fdd0a0ba

おまけ②:書籍出版のお知らせ

ついに『AIとコミュニケーションする技術(インプレス出版)』という書籍の事前予約が始まりました🎉

これからの未来において「変わらない知識」を見極めて、生成AIの業界において、読まれ続ける「バイブル」となる本をまとめ上げました。

かなり自信のある一冊なため、もしもよろしければ、ご一読いただけますと幸いです^^

▼ Amazonの事前予約はこちらから ▼
https://amzn.to/3ME8mLF

おまけ③:生成AIアカデミー

より専門的な「生成AIエンジニア人材」を目指しませんか?

そんな方々に向けて、「生成AIアカデミー(旧:生成AIエンジニア塾)」というプログラムを始めました🎉

最終的なゴールとして、『エンタープライズ向けの生成AIシステムを構築するためのスキルを習得し、大手案件で活躍できる人材』を目標とします。

また、一人一人にしっかりと向き合って、メンタリングをできるようにするため、現在メンバーの人数制限をしております。本気度やスキルレベルの高い人から、順番にご案内しております。

▼ 登録はこちらから ▼
https://bit.ly/generative_ai_engineer_school_by_zenn

おまけ④:AI Newsletter for Biz

最新のAIニュースの情報を収集しませんか?

AI Newsltter for Bizは、ビジネスパーソン向けに「AIニュース」を定期配信する完全無料のニュースレターです📩

一人でも多くの方にとって、「AI人材としてのスキルアップ」につながれば幸いです^^

また、現在、登録者限定で「明日から使える 無料AIサービス3選」のPDFを配布中です 🎁
※ ご登録完了のメールに、PDFリンクを添付いたします。

▼ 登録はこちらから ▼
https://bit.ly/ai_newsletter_for_biz_zenn

おまけ⑤:生成AIの仕事をしたい仲間を募集中 🤝

弊社Galirageでは常に、40-50件ほどの生成AI案件が走っております。

そして、ほとんどが「生成AIの案件(RAGシステム開発 / 精度改善の研究開発など)」の仕事になります!

かなり人手が不足しており、以下のポジションの仲間を募集しています💪

  • RAGエンジニア(RAG / LangChain / Python)
  • バックエンドエンジニア(Python / FastAPI)
  • フロントエンジニア(Next.js / TypeScript)
  • Azureエンジニア(AOAI / AI Search)
  • UI/UXデザイナー
  • 生成AIリサーチャー(研究開発 / 論文執筆)
  • 生成AIコンサルタント
  • PM / PMO

ご興味がある方は、下記のフォームよりお気軽にご連絡ください!

https://forms.gle/XMd19irZU4Fi7VAQ9

採用基準は下記の通りです。
  • 平日の日中に動ける方だと嬉しいですが、週8時間くらいの副業でもOKです!
  • 開始時期は、直近だと嬉しいですが、遠い未来でもOKです!まずはカジュアルに話しましょう😊
  • 年齢は不問です!現状は、平均年齢は30歳前後の会社です!
  • 「スキルセット」よりも「カルチャーマッチ・仕事への姿勢・ものづくりへのワクワク」を重視します。
    • 10月には新しく10名採用しました。
    • その内、エンジニア経験が3年未満の方は、4名いました。
    • スキルについては、ジョインした後に、必要に応じて、キャッチアップする時間を作ります。
    • 弊社は、正社員7名、業務委託80名の組織で構成されており、業務委託の仲間に支えられているため、正社員と業務委託の間にあまり差をつけていません。
    • 契約形態に関わらず、一緒に働く仲間として受け入れたその日から、大切な仲間です!
    • 新卒や転職の正社員採用もしていますが、業務委託での仕事を通して、お互いにWin-Winだと判断できた方のみを採用しています。
    • 私自身、フリーランスを5年間やっていたため、個人事業主と正社員のメリデメは両方の立場から理解しています。
  • 人手不足ではあるものの、採用基準をかなり厳しくしています。目の前の売上よりも、カルチャーのマッチする人だけを入れることにこだわっています。
  • ちなみに、弊社のリーダーを紹介したプロフィールページはこちらです!
    • Galirageに、本当に素敵な方が多いことは、保証します!

参考文献

https://www.reuters.com/technology/artificial-intelligence/openai-working-new-reasoning-technology-under-code-name-strawberry-2024-07-12/

https://www.theinformation.com/articles/openai-shows-strawberry-ai-to-the-feds-and-uses-it-to-develop-orion

Discussion

Kenshin_5680Kenshin_5680

はじめまして。
気になったので伺いたいんですが、Orionは「オリオン」では無く「オライオン」なのでしょうか?
ギリシャの英雄オリオンから付けたのかな?とずっと思っていたのですが・・・。

ますみ / 生成AIエンジニアますみ / 生成AIエンジニア

ご質問ありがとうございます!

ここは、人によって、呼び方は違うかもしれませんが、海外の人は、オライオンと呼ぶ印象があります^^

Kenshin_5680Kenshin_5680

あ~ジェミニとジェミナイの時みたいな感じですか!
理解しました!
答えていただきありがとうございます!また一つ賢くなりました😄