📞

tsuzumiを使おうとした話 ~初歩的なつまずき~

に公開

はじめに ~tsuzumiとは/国産モデルの意義~

tsuzumiはNTTが開発した国産言語モデルです。万博でもIOWN技術と並んで活用が宣伝されており気になっていたものの、私は普段はOpenAIやClaudeを日常的な疑問解決やコーディングに使ってます。

先日8/5のgpt-ossの公開でオープンウェイトモデルも盛り上がりを見せているものの、
国産モデルには

・日本語のニュアンスへの対応や制度・文化への理解をはじめから取り込める
・社会的コンセンサスや自治体運用・業界標準に基づいた設計がしやすい
 (たとえば特定業界と協調したフィルタリングや教育用適正化など)
・サポート体制

といった部分でのアドバンテージもあるのではと思っています。

さらにEUや中国がモデルを開発しているのも安全保障上の理由もあったりもします。
その国の機密情報を入力できる安心感が国産モデルには間違いなくありますからね。

そう画策していたら、こんなニュースも。
https://japan.cnet.com/article/35236405/

今の段階でtsuzumiをいじっておけば、2がリリースされたタイミングでスタートダッシュが切れる!
そんなモチベーションや個人的な事情もありtsuzumiを触ってみることにしたのでした。

Azureアカウントを作る

tsuzumiはAzure上でMaaS化されている

tsuzumiは現在、NTT DATA 経由で、Microsoft Azure MaaS(Models‑as‑a‑Service)として提供されています。
ChatGPTやClaudeのようなチャットアプリケーションはWebブラウザ上からチャットが気軽に楽しめますが、
残念ながら今のところその機能はtsuzumiにはないため、個人用のAzureを作るところから私は始めました。
とはいっても仕事上でAzureは使った経験がありますし、
親切にもNTTデータがこのような資料を準備してくれていたりもします。

公式ガイド: https://www.nttdata.com/jp/ja/lineup/tsuzumi/
MaaS紹介資料: https://www.nttdata.com/jp/ja/-/media/nttdatajapan/files/lineup/tsuzumi/tsuzumionazuremaasv10-2.pdf?rev=9b5e30a9378a41c183a914b76b5153be

これだけ親切で業務でAzureを使った経験があれば余裕…

と思いきや問題に直面。

なんてことがあったので、私がやった経験が何かしらの役に立つこともあるのかもしれないと思い記録していくことに。

AI Foundry上でデプロイできない!

Azureアカウントを作成しログイン。
初めて使う個人は無料アカウントでログインすることができますので、登録して突然大量に課金されてびっくり!なんてことはありません。

Azureの上部に表示される窓にtsuzumiと入力すると、AIFoundry(25/08現在。Azureは結構こういうサービスの名前がときどき変わる)に誘導されます。

チャットプレイグラウンドの検索窓からtsuzumiと入力し、誘導されるとおりにモデルをデプロイしようとするとこのような表示が。

え!使えない。どういうことだ。
仕方ない。Azureのマニュアルを読むか。
私はこれを仕事でさんざん読んできたが、AWSにしてもコレにしてもマニュアルって結構会社ごとの個性が言葉遣いに出るので読み解くのに骨がかかる場合があるが…大丈夫かな。

マニュアル: https://learn.microsoft.com/ja-jp/azure/ai-foundry/how-to/deploy-models-serverless?tabs=azure-direct&pivots=ai-foundry-portal

しかし救いの手は案外序盤にあった。

はい。
無料版のAzureだとサーバーレスAPIを使用したモデルのデプロイができない仕様ということでした。

アカウントを有料版に切り替える

問題がわかったのでいそいそと有料版に切り替えます。

そのあとデプロイを進めるとこの通り!

チャットプレイグラウンドで試してみる

試しにチャットプレイグラウンド(デプロイしたモデルを使って気軽にチャットを楽しめる機能です)で質問もしてみよう。

この通り無事応えてくれました。

次はこのモデルを応用してみようと思います。続く(予定)。

Discussion