Google ColabでGemmaをデモする方法

Google ColabでGemmaをデモする方法

事前準備

1. Gemmaへのアクセス要求

   • Kaggleの以下のURLにアクセスし、Request Accessをクリックして登録してください。
     https://www.kaggle.com/models/google/gemma
   • 登録画面の例：
     
     
   • Kaggleにログインまたは登録をして、Gemma利用規約に同意してください。
   • 以下のように表示されれば登録完了です。
     

2. Kaggle API Tokenの作成

   • Gemmaを利用するために、KaggleでAPI Tokenを作成します。
   • アカウント設定ページにアクセスして、APIセクションでCreate New API Tokenをクリックします。
     
   • ダウンロードされたjsonファイルを開き、usernameとkeyをメモしておきます。
     • 例: {"username":"ここをコピー","key":"ここをコピー"}

これで事前準備は完了です。

Gemmaのデモ実行

• Google Colabの以下のノートブックを開きます。
  PyTorch Gemma Notebook

• Kaggle accessのセルを実行すると、以下のような画面が表示されます。
  

  • ここで先ほどメモしたusernameとkeyを入力します。

• 以下のように表示されれば成功です。
  

• 後はノートブックの指示に従って、順にセルを実行していきます。

デモの実行結果

• 実行結果の例：
  

GoogleがモデルをOSSとして公開したことは、技術のアクセス性とイノベーションを大きく前進させる一歩です。OpenAIにも同様のOSS公開を期待します。
ただ精度がいまいちだと感じたため、OSSがChatGPTと同等の精度になるにはまだ時間がかかると感じました。