本日は、phi3を動かしてみます！！！
Ollamaを使ってphi3を動かせればと思います。
下記記事が参考になりました。
コマンドプロンプトからphi3を実行してみます。
ollama run phi3
「How are you?」とphi3に声をかけたところ、テキスト生成にかなり時間かかりました。
Windowsのパフォーマンスモニターを見ると、どうやらCPUで動いているようです。
Ollama経由のphi3でもやはりNPUは使われずでした。涙
アクセンチュア株式会社所属の社員有志による運営です。アクセンチュアの社員による様々な発信をまとめています。なお、投稿内容は社員個人の見解であり、所属する組織を代表するものではありません。
Discussion