💡

[2024年10月3日] OpenAIからリアルタイム音声会話API発表(週刊AI)

2024/10/03に公開

こんにちは、Kaiです。
OpenAIがDev Day開催に資金調達と、大きな動きがありました。Dev Dayはリアルタイム音声APIが提供されたのが最大のサプライズですね。o1のフルモデルが発表されるかと思いましたが、持ち越されました。

リアルタイム音声APIは、驚き屋の方々が「ビジネスが全て変わる!破壊される!」というようなことを言っていますが、実世界への導入はコスト面や安全性の検証を経て、年単位になるでしょう。ただ、人間と接する全てのタッチポイントで自動化の可能性が産まれたことは事実であり、大きなインパクトであることは間違いありません。

Anthropic、Googleも大きい発表を控えているという噂もある中、今週の振り返りいってみましょう。

注意事項

  • 直近収集したAIおよびWeb系の記事やポストが中心になります
  • 私のアンテナに引っかかった順なので、多少古い日付のものを紹介する場合があります
  • 業務状況次第でお休みしたり、掲載タイミングが変わったりします

Big Tech AIサービス

OpenAI: Dev Day

リアルタイムAPI(音声)、モデル蒸留(自動評価を含む)などが発表。新モデルはありませんでしたが、しばらく界隈はこれをいじることに集中しそうですね。
https://chatgpt-lab.com/n/ne7fd3ae44351
(Realtime API)
https://note.com/npaka/n/n7317484e15e1
(モデル蒸留)
https://openai.com/index/api-model-distillation/

OpenAI: OpenAIが評価額約23兆円で約9700億円の資金調達を完了、Microsoft&NVIDIA&ソフトバンクがラウンドに参加か

ついこの間1兆円の資金調達をしたと思いましたが、またもや。23兆円は既にトヨタを除くすべての日本企業よりも評価額が高いことに。
https://gigazine.net/news/20241003-openai-largest-fund-raising/

Google: gemma-2-2b-jpn-it

gemmaの軽量日本語版きました!
https://huggingface.co/google/gemma-2-2b-jpn-it

その他AI系話題

Vercel v0関連

最近は何かプロトタイピングしたいと思ったらまずv0に作らせることにしています。イメージが一瞬で可視化されるのは大きなメリット。指示も割とちゃんと聞いてくれます。

【生成AI】Vercel V0でコード書かずにアプリ作ってみた

https://qiita.com/PDC-Kurashinak/items/bc25e63ba406c0e24eef

Vercel v0でフロントエンドを試してみた感想—これからの開発はどう変わる?

https://blueqat.com/yuichiro_minato2/5dcba89c-b29f-4c0c-b438-4363dba8dbac

Hugging FaceのAIモデル数が100万を突破、直近では1ヶ月あたり10万以上

こんなん追えるわけないでしょ!!!
https://x.com/calebfahlgren/status/1839311565524185347

コード生成AI時代のテスト駆動開発

Autifyなどはテストケース、テストシナリオに注目していますが、実際のテストコードレベルでLLMを活用する方向性の示唆。大きい問題を一発生成しようとするのではなく、単一の課題レベルに分解して一つ一つ書かせると品質もカバレッジも高いものが出来るとのこと。
https://www.docswell.com/s/tyonekubo/KWWX1D-tdd-with-generative-ai

ナレッジグラフとLLMを活用したレコメンドシステム

レコメンドにナレッジグラフとLLMを導入する際、相補的に活用できるというお話。「妊婦用の靴」を検索したユーザの行動を分析することで、「すべりにくい靴」というナレッジグラフを作れるが、その際にLLMの持つ「常識」を加味することで情報の枝刈りができるという例などが挙げられています。
https://techblog.insightedge.jp/entry/knowledgegraph-recommendation

データサイエンスのフルサイクル開発を実現する機械学習パイプライン

ん、Prefectいいかも。確かにSagemakerは重厚長大な割に柔軟性がない印象です。
https://speakerdeck.com/xcnkx/tetasaiensunohurusaikurukai-fa-woshi-xian-suruji-jie-xue-xi-haihurain

Evaluating the Effectiveness of LLM-Evaluators (aka LLM-as-Judge)

現時点でのLLM-as-Judgeの総説論文みたいな記事。めちゃくちゃボリュームがある。
https://eugeneyan.com/writing/llm-evaluators/

富士通、大規模言語モデル「Takane」提供開始 「世界一の日本語性能を持つ」とうたう

富士通のプライベートクラウド上でクローズドなビジネス利用を想定するのでしょうけれど、どうしてもユーザコミュニティや進化速度の問題が付きまとうんですよね。
https://www.itmedia.co.jp/aiplus/articles/2409/30/news159.html

生成AIを活用したシステム開発の現状と展望 - 生成AI時代を見据えたシステム開発に向けて -

日本総研のレポート。さすがツールの網羅性や使いどころなどもきちんと検討しており、これを読めばとりあえず追いつける的な内容になってます。
https://www.jri.co.jp/page.jsp?id=108813

Liquid Foundation Models (LFMs)

MITスピンオフ企業から、トランスフォーマーとは異なる独自アーキテクチャの基盤モデル。全てのパラメータ数で従来のモデルを上回ると主張。
https://x.com/LiquidAI_/status/1840768716784697688

Vertex AI Pipelinesを用いた機械学習パイプラインの実装

MLOpsの一部としてパイプライン構築の話が結構出てますね。前の記事とも関連。こちらはVertexを使うパターン。
https://speakerdeck.com/ryujitamaki/implementing-machine-learning-pipelines-using-vertex-ai-pipelines

WEB開発系話題

k6を活用した再現性・拡張性の高い負荷試験基盤の構築

最近は数百万単位の負荷試験からご無沙汰しているので、知識をアップデートする意味でも勉強になりました。
https://speakerdeck.com/biwashi/k6-protoc-gen-scenario

OSSでオブザーバビリティを実現する (Grafana Stack x OpenTelemetry on Kubernetes)

メトリクス、ログ、トレースを統一的に可視化する一つの構築例として。
https://tech-blog.rakus.co.jp/entry/20240926/oss

FastAPIでのasync defとdefの使い分け

Pythonでここまでカリカリのチューニングはしたことないですね……。スレッドセーフにするのちょっと工夫がいりますし、ROIが得られるのは相当な負荷の場合になりそう。
https://speakerdeck.com/takashi1029/fastapidenoasync-deftodefnoshi-ifen-ke

【令和最新版】令和のWebスクレイピング(クロール)【ベストプラクティス】

あーこれはいいです。Amazonの令和最新版は信用できませんがこの記事はいいです。
https://zenn.dev/fp16/articles/42b8047dad3bdc

コードレビューの時に気にしている、べからずTierリスト

Tierリスト形式ってのは一目で分かってゲーム性も感じるので面白いですね。
https://zenn.dev/aldagram_tech/articles/0f9d6a53d8258b

WEBアプリケーションにおけるAWS Lambdaを用いた大規模な非同期処理の実践

大量のメールを一斉配信する際、Lambda x SQSという構成で分散非同期処理を行った事例です。キューサイズや冪等性などの現実的な問題への対処ノウハウつき。
https://speakerdeck.com/delhi09/lambda-sqs-prod-knowledge

[要移行] AWS WAF Classic (v1)が2025年9月30日で終了します

うちのチームは問題ありませんが、注意喚起。
https://dev.classmethod.jp/articles/aws-waf-classic-v1-eos-and-migration/

開発環境のデータベースでも本番環境相当のデータを使う

https://techlife.cookpad.com/entry/2024/10/01/105503

その他一般テック話題

エンジニアが長く働ける会社とは

おおむね同意です。ものを作る仕事というのは、作る人が裁量を持って楽しんでいるときに一番成果が出ると思っています。
https://developer.leaner.co.jp/entry/20240927-long-live-developers

住所正規化のデモ機能を作ったので、日本のヤバい住所を入力してみた

以前位置情報サービスを手掛けていた際に一端を垣間見ましたが、ヤバいんですよ。でもこちらの住所正規化サービスは存じませんでした。大量データを捌くときに使いどころありそう。
https://zenn.dev/sikkim/articles/bc86fbcac3a9fd

CareNet Engineers

Discussion