オープンソースのLLM「phi3.5」がリリースされたとのことで、さっそくCopilot+PCで動かしてみました！
「phi3」も動かしていて、下記記事を参考に「phi3.5」も動かしてみました。過去の自身の記事が活きました！
実際、最新のOllamaをインストールして、「phi3.5」を動かしたキャプチャが下記になります。
うーん、キャプチャだと伝わらないのですが、文字生成が遅い。。。
Windowsのパフォーマンスモニターを見たのですが、相変わらずNPUは使われず。。。
phi3.5のようなSLMがCopilot+PCでサクサク動くようになって、端末アプリでSLMへ自在に連携できると、かなりインパクトが大きいと思うのですが、まだ少し先なのかなぁ。。
アクセンチュア株式会社所属の社員有志による運営です。アクセンチュアの社員による様々な発信をまとめています。なお、投稿内容は社員個人の見解であり、所属する組織を代表するものではありません。
Discussion
いつも検証ありがとうございます。楽しみに拝見してます。
NPU対応あと少しみたいですね。対応されたらQualcommのCopilot+PCが俄然欲しくなります。
Llama3.2登場にあわせてollamaのQualcomm対応もスタートしたみたいですね。手元にQualcommのCopilot+PCがないので、検証記事楽しみにしております！