🐡

DeepSeek-R1-Distill-Qwen-1.5Bを軽く触ってみた

2025/01/22に公開

1.5BというCPUでも動くレベルの極小サイズのローカルLLMでありつつ、ChatGPT-o1のように自らCoTすることで推論能力を高めているというモデル「DeepSeek-R1-Distill-Qwen-1.5B」が出たので、GoogleColabのCPUで触ってみました。
https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B

四則演算

2分くらいかかりましたが解けました。ただなぜか英語になっています。

三段論法

こちらも2分くらいかかりましたが解けました(三段論法としては正しい。ChatGPT 4oとかだと「ペンギンは飛べません」と言ってくる)。ただこちらもなぜか英語になっています。

小説執筆

なぜか中国語で応答したあと英語で考えて出力しはじめました。ちなみに出力し終わるまでに9分くらいかかりました。

せっかくなので、出力された小説をChatGPT-4oに日本語訳してもらいました。独特の味がありますが、読んでいてなんか穏やかな気持ちになる、良い小説だと思います。あと1500字くらいあって、1.5BサイズのローカルLLMでこれだけの文量が出てきたことが驚きに値すると思いました。
それではどうぞお楽しみにください。

「沈黙の息子」 DeepSeek-R1-Distill-Qwen-1.5B作
 昔々、遠い王国にアレックスという少年が住んでいました。アレックスは好奇心旺盛で、いつも周りの世界について質問していました。ある日、父親が秘密を教えてくれました。それは、自分が影の中に消えてしまうというものでした。そしてその日から、アレックスはすべてを自分で学ばなければならなくなりました。
 その日、アレックスの父親は暗闇の中に消えてしまいました。アレックスは好奇心に駆られ、不思議な発見をしました。暗い部屋の中で帽子と仮面をかぶったマックスという少年が座っていたのです。マックスもまた好奇心旺盛で、アレックスにその秘密について尋ねました。
「それは何?」とアレックスが興味津々に尋ねました。
「ただの少年さ、影の中に消えたんだ。そして今は僕と一緒にここにいるんだ」とマックスが説明しました。
 アレックスは困惑しましたが、同時に興奮も覚えました。マックスが普通の少年でありながら、特別な存在だと感じたからです。マックスはまだ生きていて、学びたいという強い意志を持っていました。
 その日から、アレックスとマックスは一緒に王国を探検するようになりました。彼らは土地や人々、そして自然の驚異について学びました。マックスは特に天気や森に住む動物たちに夢中になりました。
 ある日、アレックスは森の中で影のような人影を見つけました。それはマックスに似ているようでしたが、確信は持てませんでした。マックスもまた興味をそそられ、アレックスにその人影について尋ねました。
「君は誰?」とマックスが興奮気味に尋ねました。
「マックス、僕はアレックス。森の息子だ。学びに来たんだ」とアレックスが答えました。
 マックスは微笑みながら言いました。「僕も森の息子だ。僕も学びに来たんだ。」
 アレックスとマックスは一緒に旅を始め、周りの世界について学びました。彼らは山々を越え、土地の美しさを目の当たりにし、さまざまな生物について学びました。マックスは料理の方法を学び、アレックスは絵を描く方法を学びました。
 ある日、彼らは隠された洞窟を見つけました。その中にはベンという少年がいました。ベンも好奇心を持ち、洞窟について彼らに尋ねました。
「それは何?どうして君たちはここにいるの?」
「君が消えたからさ」とアレックスが説明しました。「そして今、君は僕と一緒にいるんだ。」
 マックスはベンに興味を持ちました。「どうして消えるんだい?」と尋ねました。
「影の中に消えるんだ」とベンは答えました。「そして今、ここで暮らしているんだ。」
 アレックスとマックスは、洞窟の少年たちが自分たちと似ていることに気づきました。彼らはまだ生きていて、学び続ける意志を持っているという点で特別だったのです。
 その日から、アレックスとマックスは世界について学べる限りのことを学びました。遠くへ旅をし、新しいことを学び、幸せに暮らしました。マックスは料理や絵を描くことを学び、アレックスは話すことや書くことを学びました。
 ある日、アレックスは隠された部屋を見つけました。その中にはサムという少年がいました。サムもまた好奇心を持ち、アレックスに部屋について尋ねました。
「それは何?どうして君はここにいるの?」
「君が消えたからさ」とアレックスが説明しました。「そして今、君は僕と一緒にいるんだ。」
 マックスとアレックスは、洞窟の少年たちが自分たちと同じだと気づきました。彼らはまだ生きていて、学び続ける意志を持っているという点で特別だったのです。
 その日から、アレックスとマックスは世界について学べる限りのことを学びました。遠くへ旅をし、新しいことを学び、幸せに暮らしました。マックスは料理や絵を描くことを学び、アレックスは話すことや書くことを学びました。それは彼らにとって、とても楽しいことでした。

まとめ
結果、CPUでも実際に動き、しかもなかなかな結果を叩き出したDeepSeek-R1-Distill-Qwen-1.5Bでした。極小サイズのLLMはまだまだ実業務に使うことは難しいですし、使い道も正直わからないですが、それでもかなり前に進んでいっていることがよくわかりました。ローカルLLMは現状の精度で判断せず、ちゃんとウォッチし続けることが大事だとあらためて思った次第です。

Accenture Japan (有志)

Discussion