Hugging FaceのモデルをJupyter Notebook上で使う

やること

Hugging FaceのモデルをJupyter Notebook上で使う

Hugging Face

Hugging Faceは、人工知能（AI）のモデルやデータを共有し、利用するためのオープンソースプラットフォームです。

↓詳細

https://zenn.dev/novel_techblog/articles/362fceec01c8b1

手順

1. アカウント作成
2. Access Tokens作成
3. コードの実行

アカウント作成

1. 以下のURLをクリックし、Hugging Faceにアクセス

https://huggingface.co/

2. 「Sign Up」をクリック
   

3. 「Email Address」と「Password」を入力し、「Next」をクリック
   

4. 「Username」と「Full name」を入力し、「Create Account」をクリック
   

5. メールが届く

6. URLにアクセスし、Emailの確認を実施

7. 以下のURLをクリックし、Hugging Faceにアクセス

https://huggingface.co/

8. 「Log in」をクリック
   

9. 3で入力した「Emain Adress」と「Password」を入力し、「Login」をクリック
   

10. Loginができたことを確認

Access Tokens作成

1. 右上のアイコンをクリック
2. 「Settings」をクリック
   
3. 「Access Tokens」をクリック
   
4. 「New token」をクリック
   
5. 「Name」を入力し、「Generate a token」をクリック
   
6. User Access Tokens が作成されたことを確認
   

モデルをJupyter Notebookで実行

1. 検索欄から検証したいモデルを検索する
   ※今回は、Phi-3を選択
   
2. 「Deploy」をクリック
   
3. 「Inference API」をクリック
   
4. 「Show API token」をクリック
5. 「Copy」をクリック
   
6. jupyter Notebookを立ち上げて、Notebookを開く
7. 5でCopyしたコードをペーストする
8. ＋で下記のコードも追加する

print(output)

9. コードを実行
10. 実行できていることを確認
    

終わりに

Hugging FaceのモデルをJupyter Notebook上で使ってみた。
簡単にできたので、今後触ったことないLLMやSLMを検証するのに使っていこうかと思います。