🙆‍♂️

Qwen2-7B-instruct+GPUで軽くサマリー作る

に公開

Qwen2-7B-instruct をつかう

ファイルはこちらから

https://github.com/mi-kaneyon/jp_LLM_repos/tree/main/Qwen2_script

https://huggingface.co/Qwen/Qwen2-7B-Instruct

Qwen2では物体検出から特徴を説明できなかった

検出された人物の数: 1
人物を検出しました。LLMに質問を送信します。
LLMへの入力: Q: 那个人物是谁?
A:LLMの出力: Q: 那个人物是谁?
A: 他是一位著名的科学家,他的理论对现代物理学产生了深远的影响。他是爱因斯坦。

物体検出からの回答

  • ご丁寧にテキスト専用のAIなので画像を見てどうこう言えないと説明をしています。
  • 中文で書けば答えてくれるかと思ったら、同じことをいわれました・・・

簡単なBot同士の討論と議事まとめ

  • 日本語のやり取りをBOT同士が行って、結果をまとめるスクリプト

python caiiyi.py

チャット内容(ドリアン販売拡大計画)
  • 榴梿 我最喜欢的水果之一

まとめ

  • 日本語の処理が思ったよりも正確で、文章の作成も特異
  • ちょっとくすっと来るのが中国語が・・・(例文参照)
  • 速度はこれまで評価したモデルと違いは無い。早いかも。
  • まだ日本語が扱えるモデルがあるので、最後に実用対決をする予定

Discussion