🙆‍♂️

Qwen2-7B-instruct+GPUで軽くサマリー作る

2024/07/24に公開

Qwen2-7B-instruct をつかう

ファイルはこちらから

https://github.com/mi-kaneyon/jp_LLM_repos/tree/main/Qwen2_script

https://huggingface.co/Qwen/Qwen2-7B-Instruct

Qwen2では物体検出から特徴を説明できなかった

物体検出からの回答

  • ご丁寧にテキスト専用のAIなので画像を見てどうこう言えないと説明をしています。
  • 中文で書けば答えてくれるかと思ったら、同じことをいわれました・・・

簡単なBot同士の討論と議事まとめ

  • 日本語のやり取りをBOT同士が行って、結果をまとめるスクリプト

python caiiyi.py

チャット内容(ドリアン販売拡大計画)
  • 榴梿 我最喜欢的水果之一

まとめ

  • 日本語の処理が思ったよりも正確で、文章の作成も特異
  • ちょっとくすっと来るのが中国語が・・・(例文参照)
  • 速度はこれまで評価したモデルと違いは無い。早いかも。
  • まだ日本語が扱えるモデルがあるので、最後に実用対決をする予定

Discussion