Open5
個人的お気に入り小規模言語モデル(SLM)

独断と偏見でM2 Pro Mac miniで動かしてみた小規模言語モデル(SLM)でお気に入りのモデルを記録していく

モデル | パラメータ数 | 日本語の応答 | メモリ使用量 | 応答にかかる時間 | |
---|---|---|---|---|---|
DeepSeek-R1-Distill-Qwen-1.5B | 1.5B | ❌ | ⚠️ | ❌ | |
TinySwallow-1.5B | 1.5B | ✅ | ✅ | ✅ | |
Phi-4-mini-instruct | 3.84B | ✅ | ⚠️ | ⚠️ | |
👑 | sarashina2.2-3b-instruct-v0.1 | 3B | ✅ | ✅ | ✅ |
sarashina2.2-1b-instruct-v0.1 | 1B | ⚠️ | ✅ | ✅ | |
sarashina2.2-0.5b-instruct-v0.1 | 0.5B | ⚠️ | ✅ | ✅ |