メタバース思うこと - OpenAIのCEO - Sam Altman CEO頭の中を覗いた

OpenAIのCEO - Sam Altman CEO頭の中を覗いた

OpenAIのCEO - Sam Altman のConnie Loizosによる長めのインタビューが面白かったので紹介します。

StrictlyVC in conversation with Sam Altman, part two (OpenAI)

https://www.youtube.com/watch?v=ebjkD1Om4uw

以下時系列で翻訳。

• マネタイズを最初から考えていたわけではない
• AGI(汎用人工知能)が出てくるまでは市場の原理が有効に働くし、OpenAIは歓迎
• 社会から様々な意見が出てくることは想定済みで、そこの理解が得られることに意味がある
• AGIができないことについては法律が定めるべき
• エージェント同士が遊んだり（つまりAI vs AI）は既に想定されている
• 「人々がAIに何を許可させたいのか？」を知ることが重要。
• しかしこれを調べるためにはエッジの効いたシステムが必要で、創造的で探索的である_必要がある_が、それらに対して気に入らない、不快に思う人々もいる。
• AIそのものをパーソナライズしていく必要がある（個々のTech企業が1つのルールで1つのシステムを作ることよりもはるかに優れている）
• （Microsoftとの提携などに関係なく）OpenAIは人々がトークンを支払う価値があることを開発すべき
• (15:29) 教育の現場でGPTが使われることは想定済みであり、学校側がそれを検出する技術を必要としている、そのほうが健康な社会であることを指摘している
• 「書籍を読むよりChatGPTを通して読んだほうがいい→論文をこれで書いたら楽になる」は子供でも分かる
• ウォーターマーキング技術が必要になる※
• 国の政策や個々の学校や何かへの依存は政府のポリシーで決まるがこれを完璧にすることは不可能
• 個人やグループの自由な言語モデルとポリシー設定と、企業や政府の設定は異なる
• 動画生成についても確実に来る（いつとは言わない）
• 質疑応答１：2028年に電力グリッドに接続
• (22:10)質疑応答２：人類の進化（7万年規模ではなく1年規模で）での良いケースと悪いケース。（良いケースは信じられないぐらいいいものであるのでおいておくが）悪いケースについて、AGIがどのようなものになるか、普通の人よりも深く細かく知りたい。システムを安全にするためにはその逆を知ることが非常に重要。
• AGIの離陸の「速い/遅い」と向かっている「完全に安全な世界」のタイムラインを「長い/短い」の2x2マトリックスで表現すると「短いタイムラインでゆっくりと離陸する(short timeline-slow takeoff)」。一方でAGIに対して人々が「AIの勝利宣言」には様々な意見を抱くだろう。
• (26:00)質疑応答３：カルフォルニア ベイエリアとテック企業の責任について
• 質疑応答４：ChatGPTの誇大広告、規模の大きさについて。印象的ですが100回使えばわかるので。人々がフェイクニュースの存在を理解するのと同じ。
• 質疑応答５：GoogleとUBI(ベーシックインカム?)について。大きな企業が終わるというのはまあ間違いです。検索には変化が起きる。人々が思うような衝撃的な変わり方はしないが。AGIが経済に寄与する、時間の問題
• また人々が創造的なことをやめることはない。科学の進歩は我々全体が進歩する方法なので我々はそういう社会貢献をする。
• 質疑応答６：テックワーカーの働く場所について。個人的にはハイブリッド。しかし40年後も人々がそれを望んでいるか？いない人は取り残されるようなもの。
• 質疑応答７：安全性について。たくさんの問題が新技術、特に狭い分野のAIにはある。過去数十年、70-80年、安全システムと安全プロセスを構築する方法を研究する。これは間違いない。AGI安全工学については独自のカテゴリーとして研究する価値がある。投資が十分に必要であり(stakes is high)不可逆的な状況が続くことは簡単に想像できるので、そうする必要がある。それを別の方法で扱う安全プロセスとスタンダードについても。
• (質問7に続いてYCの中の人っぽい人との対話)：2012-2021の終わりにかけたメガバブルで人を雇うのが大変で、競合他社との差異を出すのが大変だった。資本金が安く、永続的な価値を創造するのが難しかった。現在は資本はタフで、はるかに簡単になった。才能がある人、顧客であるかどうかにかかわらず、ユーザーを知っている。資金を調達するのは大変だが、他のことは楽になった。垂直のAIを実行したい。
• 司会者質問：Jasperのようなコピーライトの会社はChatGPTに依存している、多くのスタートアップにとって危険では？→たぶんAIスタートアップは、他の企業と差異をつけるために、顧客に寄り添った深いネットワークを構築して効果を上げていると思います。OpenAIは年々より良くなっていくと思いますが、プラットフォームとして基盤部分に高い価値を持つ存在でいたい。
• まとめ質問「何が来るか」：これまでのように「価値を作り出していく方法(way way more new value created)」こそが価値であり、これが黄金の時代になることを感じています。

※GPTが生成した文章の透かし技術については既に理論化が終わっているようで、さっそく研究者によって解説されています。

https://twitter.com/tomgoldsteincs/status/1618287665006403585

まあこれ書いてて「透かし技術も大事だけど、要約技術大事だぜ…」と思いましたがNLPの世界だとトークン化されているから、本人としては「要約？できている」なんだろうなと思いました。
また、実際の英語を聞いていると、喋り方やその応答の間の取り方が、ChatGPTそっくりだったのが印象的でした。

[追加] 2019/05/19 のインタビューも見つけた

Sam Altman in conversation with StrictlyVC
https://www.youtube.com/watch?v=TzcJlKg2Rc0