<p data-line="0" class="code-line">俺が好きなmacでローカルLLMを触れるってことと、来年さらにローカルLLMが熱くなる(はず)ということでm4チップが発売されたことを契機に購入を検討した。<br>
＃現状、m1 mac book air 16GB所持で、小さめのモデルでも手元で動かすにはちょっと心もとない。</p>
<p data-line="3" class="code-line">この記事は検討の過程を共有して、誰かの参考になればと思って公開する。</p>
<h2 id="%E7%B5%90%E8%AB%96" data-line="5" class="code-line">
<a class="header-anchor-link" href="#%E7%B5%90%E8%AB%96" aria-hidden="true"></a> 結論</h2>
<p data-line="6" class="code-line">色々悩んだが、整理してみると俺は<strong>m4 mac book airのメモリ24GBを待つ</strong>ことにした。(年末セールのm3 mac book airもちょっと候補。)</p>
<p data-line="8" class="code-line">mac book proも悩んだが、持ち運びが多いので重さ、バカ高いPCを持ち運ぶの怖いという観点で諦めた。<br>
一旦mac book airのみで推論ベースで遊んでみて、自分でもモデルを学習してみたいとかでてきたときにm4 mac miniのm4pro-48GBを追加導入しようかなと思う。</p>
<h2 id="%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%ABllm%E3%81%AE%E3%81%9F%E3%82%81%E3%81%ABmac%E3%82%92%E8%B2%B7%E3%81%86%E3%83%A2%E3%83%81%E3%83%99%E3%82%92%E6%95%B4%E7%90%86" data-line="11" class="code-line">
<a class="header-anchor-link" href="#%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%ABllm%E3%81%AE%E3%81%9F%E3%82%81%E3%81%ABmac%E3%82%92%E8%B2%B7%E3%81%86%E3%83%A2%E3%83%81%E3%83%99%E3%82%92%E6%95%B4%E7%90%86" aria-hidden="true"></a> ローカルLLMのためにmacを買うモチベを整理</h2>
<h3 id="%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%ABllm%E3%81%AE%E5%B0%86%E6%9D%A5%E6%80%A7%E3%80%81%E9%9C%80%E8%A6%81" data-line="12" class="code-line">
<a class="header-anchor-link" href="#%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%ABllm%E3%81%AE%E5%B0%86%E6%9D%A5%E6%80%A7%E3%80%81%E9%9C%80%E8%A6%81" aria-hidden="true"></a> ローカルLLMの将来性、需要</h3>
<ul data-line="13" class="code-line">
<li data-line="13" class="code-line">クラウドにデータを上げたくないなどのセキュリティに対する需要</li>
<li data-line="14" class="code-line">ドメイン特化LLM：特定の分野に特化し精度が高いモデルを作りたいという需要
<ul data-line="15" class="code-line">
<li data-line="15" class="code-line">モデルパラメータサイズが小さい事によるカスタマイズ性の高さを活かした取り組み</li>
<li data-line="16" class="code-line"><a href="https://zenn.dev/mkj/articles/c41d81f9f4ecd5" target="_blank">ローカルLLMに関する松尾研究所の記事</a></li>
<li data-line="17" class="code-line"><a href="https://www.youtube.com/watch?v=n3S8eVHkzvY" target="_blank" rel="nofollow noopener noreferrer">元松尾研究所今井さんの言葉-パーソナルAI</a></li>
</ul>
</li>
</ul>
<h3 id="mac%E3%81%A7%E5%8B%95%E3%81%8B%E3%81%99%E9%AD%85%E5%8A%9B" data-line="19" class="code-line">
<a class="header-anchor-link" href="#mac%E3%81%A7%E5%8B%95%E3%81%8B%E3%81%99%E9%AD%85%E5%8A%9B" aria-hidden="true"></a> macで動かす魅力</h3>
<ul data-line="20" class="code-line">
<li data-line="20" class="code-line">macでLLMを動かすという面白さ、夢</li>
<li data-line="21" class="code-line">ユニファイドメモリによるgpuへのデカいメモリ割当
<ul data-line="22" class="code-line">
<li data-line="22" class="code-line">コンシューマ向けGPUは24GBが最大で動作可能なモデルが限られる</li>
<li data-line="23" class="code-line">次期モデル5090とかでも32GBとからしい。100万？とかの噂。</li>
</ul>
</li>
<li data-line="24" class="code-line">導入の手軽さ
<ul data-line="25" class="code-line">
<li data-line="25" class="code-line">gpuとか、箱とか準備したくない。デカい。</li>
</ul>
</li>
<li data-line="26" class="code-line">macに最適化された機械学習フレームワークの登場と期待：MLX
<ul data-line="27" class="code-line">
<li data-line="27" class="code-line">ollamaに比べ、ローカルLLMの推論が速いらしい。
<ul data-line="28" class="code-line">
<li data-line="28" class="code-line">MLXに対応した形式のモデルを実行できる
<ul data-line="29" class="code-line">
<li data-line="29" class="code-line">ggufから変換が可能。</li>
<li data-line="30" class="code-line">mlxのコミュニティで配られてる。</li>
</ul>
</li>
</ul>
</li>
<li data-line="31" class="code-line">LoraなどのファインチューニングもMLXでできる。</li>
<li data-line="32" class="code-line">ollamaもいずれmlxサポートしてくれる？の噂もあり</li>
</ul>
</li>
</ul>
<h2 id="%E3%83%A1%E3%83%A2%E3%83%AA%E3%82%B5%E3%82%A4%E3%82%BA%E3%82%92%E3%81%A9%E3%81%86%E3%81%99%E3%82%8B%E3%81%8B%EF%BC%9F" data-line="34" class="code-line">
<a class="header-anchor-link" href="#%E3%83%A1%E3%83%A2%E3%83%AA%E3%82%B5%E3%82%A4%E3%82%BA%E3%82%92%E3%81%A9%E3%81%86%E3%81%99%E3%82%8B%E3%81%8B%EF%BC%9F" aria-hidden="true"></a> メモリサイズをどうするか？</h2>
<p data-line="35" class="code-line">どの<code>パラメータサイズ</code>と<code>量子化サイズ</code>のローカルLLMを動かしたいかで決める。</p>
<p data-line="37" class="code-line">俺は32Bの4bit量子化をターゲットにすることにした。<br>
ので、メモリは24GBか32GBを選ぶことになる。</p>
<ul data-line="40" class="code-line">
<li data-line="40" class="code-line">パラメータサイズ32Bを選ぶ理由
<ul data-line="41" class="code-line">
<li data-line="41" class="code-line">qwen2.5-corderであるコーディング特化モデルが32Bで、今後ドメイン特化モデルが32Bクラスで展開されるのかなぁという予想。</li>
<li data-line="42" class="code-line">技術進歩で2025年に70Bレベルの精度を30Bレベルで出せるとかになってくれることを期待。</li>
</ul>
</li>
</ul>
<h3 id="%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%ABllm%E3%81%AE%E3%83%91%E3%83%A9%E3%83%A1%E3%83%BC%E3%82%BF%E3%82%B5%E3%82%A4%E3%82%BA-x-%E9%87%8F%E5%AD%90%E5%8C%96bit%E6%95%B0%E3%81%AB%E5%BF%9C%E3%81%98%E3%81%9F%E3%83%A1%E3%83%A2%E3%83%AA%E3%82%B5%E3%82%A4%E3%82%BA%E7%9B%AE%E5%AE%89" data-line="44" class="code-line">
<a class="header-anchor-link" href="#%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%ABllm%E3%81%AE%E3%83%91%E3%83%A9%E3%83%A1%E3%83%BC%E3%82%BF%E3%82%B5%E3%82%A4%E3%82%BA-x-%E9%87%8F%E5%AD%90%E5%8C%96bit%E6%95%B0%E3%81%AB%E5%BF%9C%E3%81%98%E3%81%9F%E3%83%A1%E3%83%A2%E3%83%AA%E3%82%B5%E3%82%A4%E3%82%BA%E7%9B%AE%E5%AE%89" aria-hidden="true"></a> ローカルLLMのパラメータサイズ x 量子化bit数に応じたメモリサイズ目安</h3>
<table data-line="46" class="code-line">
<thead data-line="46" class="code-line">
<tr data-line="46" class="code-line">
<th>パラメータサイズ \ 量子化bit数</th>
<th>Float16 (16bit)</th>
<th>8bit量子化</th>
<th>4bit量子化</th>
</tr>
</thead>
<tbody data-line="48" class="code-line">
<tr data-line="48" class="code-line">
<td><strong>7B (70億パラメータ)</strong></td>
<td>約16.8GB</td>
<td>約8.4GB</td>
<td>約4.2GB</td>
</tr>
<tr data-line="49" class="code-line">
<td><strong>14B (140億パラメータ)</strong></td>
<td>約33.6GB</td>
<td>約16.8GB</td>
<td>約8.4GB</td>
</tr>
<tr data-line="50" class="code-line">
<td><strong>32B (320億パラメータ)</strong></td>
<td>約76.8GB</td>
<td>約38.4GB</td>
<td>約19.2GB</td>
</tr>
<tr data-line="51" class="code-line">
<td><strong>72B (720億パラメータ)</strong></td>
<td>約172.8GB</td>
<td>約86.4GB</td>
<td>約43.2GB</td>
</tr>
</tbody>
</table>
<p data-line="53" class="code-line"><a href="https://www.substratus.ai/blog/calculating-gpu-memory-for-llm/?utm_source=chatgpt.com" target="_blank" rel="nofollow noopener noreferrer">参考にしたメモリサイズの計算式</a></p>
<ul data-line="55" class="code-line">
<li data-line="55" class="code-line">Loraとかで学習するなら上記の倍はあれば学習にも手を出せると思う。</li>
<li data-line="56" class="code-line">ちなみに、、
<ul data-line="57" class="code-line">
<li data-line="57" class="code-line">正直、俺がターゲットにしているパラメータサイズ x 量子化サイズだとapple信者じゃでなければコンシューマ向けGPUを積んだPCを組むか買うかしたほうが良いとは思う。</li>
<li data-line="58" class="code-line">なぜなら、コンシューマ向けGPUでも4090を選べばVRAMが24GBあり、32Bの4bit量子化までは動作させられるし圧倒的に速いし、macのユニファイドメモリのメリットが享受できないためである。</li>
</ul>
</li>
</ul>
<h2 id="%E5%87%A6%E7%90%86%E3%82%B9%E3%83%94%E3%83%BC%E3%83%89%E3%82%92%E3%81%A9%E3%81%93%E3%81%BE%E3%81%A7%E3%82%82%E3%81%A8%E3%82%81%E3%82%8B%E3%81%8B%EF%BC%9F" data-line="60" class="code-line">
<a class="header-anchor-link" href="#%E5%87%A6%E7%90%86%E3%82%B9%E3%83%94%E3%83%BC%E3%83%89%E3%82%92%E3%81%A9%E3%81%93%E3%81%BE%E3%81%A7%E3%82%82%E3%81%A8%E3%82%81%E3%82%8B%E3%81%8B%EF%BC%9F" aria-hidden="true"></a> 処理スピードをどこまでもとめるか？</h2>
<h3 id="llm%E3%81%AE%E6%80%A7%E8%83%BD%E3%81%AB%E3%81%A4%E3%81%84%E3%81%A6" data-line="62" class="code-line">
<a class="header-anchor-link" href="#llm%E3%81%AE%E6%80%A7%E8%83%BD%E3%81%AB%E3%81%A4%E3%81%84%E3%81%A6" aria-hidden="true"></a> LLMの性能について</h3>
<p data-line="63" class="code-line">性能については<strong>入力トークンを処理するスピード</strong>と、<strong>出力トークンを生成するスピード</strong>の２つを考える必要がある。</p>
<ul data-line="64" class="code-line">
<li data-line="64" class="code-line">
<strong>入力トークンを処理するスピード(PP：プロンプト評価速度)</strong>
<ul data-line="65" class="code-line">
<li data-line="65" class="code-line">gpuの性能 + gpuコア数が多いほど比例して早くなる</li>
<li data-line="66" class="code-line">LLMに指示を入力してから、<strong>最初の文字が出力されるまでの時間</strong>に関わる
<ul data-line="67" class="code-line">
<li data-line="67" class="code-line">PPが速ければ最初の文字が出力されるまでの時間が短くなる</li>
</ul>
</li>
</ul>
</li>
<li data-line="68" class="code-line">
<strong>出力トークンの生成するスピード(TG：テキスト生成速度）</strong>
<ul data-line="69" class="code-line">
<li data-line="69" class="code-line">基本的にメモリ帯域幅が大きいと比例して速くなる</li>
<li data-line="70" class="code-line">LLMが文字を<strong>出力し始めてから、最後の文字を出力するまでの時間</strong>に関わる
<ul data-line="71" class="code-line">
<li data-line="71" class="code-line">TGが速ければ文字が全部出力されるまでの時間が短くなる</li>
</ul>
</li>
</ul>
</li>
</ul>
<h3 id="m4-mac-book-pro%E3%81%AE%E6%80%A7%E8%83%BD%E3%81%A8%E4%BE%A1%E6%A0%BC%E3%81%AE%E6%95%B4%E7%90%86" data-line="74" class="code-line">
<a class="header-anchor-link" href="#m4-mac-book-pro%E3%81%AE%E6%80%A7%E8%83%BD%E3%81%A8%E4%BE%A1%E6%A0%BC%E3%81%AE%E6%95%B4%E7%90%86" aria-hidden="true"></a> m4 mac book proの性能と価格の整理</h3>
<table data-line="76" class="code-line">
<thead data-line="76" class="code-line">
<tr data-line="76" class="code-line">
<th>Chip</th>
<th>メモリ</th>
<th>可モデル</th>
<th>gpu Cores</th>
<th>BW [GB/s]</th>
<th>PP [t/s]</th>
<th>TG [t/s]</th>
<th>価格</th>
</tr>
</thead>
<tbody data-line="78" class="code-line">
<tr data-line="78" class="code-line">
<td>M4</td>
<td>24GB</td>
<td>32B-4bit</td>
<td>10</td>
<td>120</td>
<td>221.29</td>
<td>24.11</td>
<td>308,800円</td>
</tr>
<tr data-line="79" class="code-line">
<td>M4</td>
<td>32GB</td>
<td>32B-4bit</td>
<td>10</td>
<td>120</td>
<td>221.29</td>
<td>24.11</td>
<td>338,800円</td>
</tr>
<tr data-line="80" class="code-line">
<td>M4 Pro</td>
<td>24GB</td>
<td>32B-4bit</td>
<td>16</td>
<td>273</td>
<td>364.06</td>
<td>49.64</td>
<td>358,800円</td>
</tr>
<tr data-line="81" class="code-line">
<td>M4 Pro</td>
<td>48GB</td>
<td>32B-4bit</td>
<td>16</td>
<td>273</td>
<td>364.06</td>
<td>49.64</td>
<td>418,800円</td>
</tr>
<tr data-line="82" class="code-line">
<td>M4 Pro</td>
<td>24GB</td>
<td>32B-4bit</td>
<td>20</td>
<td>273</td>
<td>439.78</td>
<td>50.74</td>
<td>398,800円</td>
</tr>
<tr data-line="83" class="code-line">
<td>M4 Pro</td>
<td>48GB</td>
<td>72B-4bit</td>
<td>20</td>
<td>273</td>
<td>439.78</td>
<td>50.74</td>
<td>418,800円</td>
</tr>
<tr data-line="84" class="code-line">
<td>M4 Max</td>
<td>32GB</td>
<td>32B-4bit</td>
<td>32</td>
<td>410</td>
<td>752.91</td>
<td>70.37</td>
<td>528,000円</td>
</tr>
<tr data-line="85" class="code-line">
<td>M4 Max</td>
<td>48GB</td>
<td>32B-4bit</td>
<td>40</td>
<td>546</td>
<td>885.68</td>
<td>83.00</td>
<td>603,800円</td>
</tr>
</tbody>
</table>
<ul data-line="87" class="code-line">
<li data-line="87" class="code-line">mac miniはProチップまで選べてmac book proと同じ構成で-10万程度で手に入る。</li>
</ul>
<h2 id="%E3%81%BE%E3%81%A8%E3%82%81" data-line="89" class="code-line">
<a class="header-anchor-link" href="#%E3%81%BE%E3%81%A8%E3%82%81" aria-hidden="true"></a> まとめ</h2>
<p data-line="90" class="code-line">一緒に来年macでローカルLLMしましょう。<br>
正直m4 mac miniをもう買ってしまうかかなり悩んでる。</p>
<h2 id="%E5%8F%82%E8%80%83%E6%83%85%E5%A0%B1" data-line="93" class="code-line">
<a class="header-anchor-link" href="#%E5%8F%82%E8%80%83%E6%83%85%E5%A0%B1" aria-hidden="true"></a> 参考情報</h2>
<h3 id="mac%E3%80%81%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%ABllm%E3%81%AE%E8%B3%BC%E5%85%A5%E3%81%AB%E9%96%A2%E3%81%99%E3%82%8B%E8%A8%98%E4%BA%8B" data-line="94" class="code-line">
<a class="header-anchor-link" href="#mac%E3%80%81%E3%83%AD%E3%83%BC%E3%82%AB%E3%83%ABllm%E3%81%AE%E8%B3%BC%E5%85%A5%E3%81%AB%E9%96%A2%E3%81%99%E3%82%8B%E8%A8%98%E4%BA%8B" aria-hidden="true"></a> mac、ローカルLLMの購入に関する記事</h3>
<p data-line="95" class="code-line"><span class="embed-block zenn-embedded zenn-embedded-card"><iframe id="zenn-embedded__4963c6d6d3022" src="https://embed.zenn.studio/card#zenn-embedded__4963c6d6d3022" data-content="https%3A%2F%2Fzenn.dev%2Frobustonian%2Farticles%2Fselection_of_gpus_for_local_llm" frameborder="0" scrolling="no" loading="lazy"></iframe></span><a href="https://zenn.dev/robustonian/articles/selection_of_gpus_for_local_llm" style="display:none" target="_blank">https://zenn.dev/robustonian/articles/selection_of_gpus_for_local_llm</a></p>
<h3 id="m2-vs-m4%E3%81%AE%E5%8B%95%E7%94%BB" data-line="96" class="code-line">
<a class="header-anchor-link" href="#m2-vs-m4%E3%81%AE%E5%8B%95%E7%94%BB" aria-hidden="true"></a> M2 vs M4の動画</h3>
<p data-line="97" class="code-line"><span class="embed-block embed-youtube"><iframe src="https://www.youtube-nocookie.com/embed/bEsjaXWo9go?start=7" allow="accelerometer; clipboard-write; encrypted-media; gyroscope; picture-in-picture" allowfullscreen loading="lazy"></iframe></span><a href="https://www.youtube.com/watch?v=bEsjaXWo9go&amp;t=7s" style="display:none" target="_blank" rel="nofollow noopener noreferrer">https://www.youtube.com/watch?v=bEsjaXWo9go&amp;t=7s</a></p>
<table data-line="99" class="code-line">
<thead data-line="99" class="code-line">
<tr data-line="99" class="code-line">
<th>項目</th>
<th>M2チップ</th>
<th>M4チップ</th>
</tr>
</thead>
<tbody data-line="101" class="code-line">
<tr data-line="101" class="code-line">
<td>入力トークン</td>
<td>718トークン</td>
<td>718トークン</td>
</tr>
<tr data-line="102" class="code-line">
<td><strong>ファーストトークン応答時間</strong></td>
<td>約15.19秒</td>
<td>約7.4秒</td>
</tr>
<tr data-line="103" class="code-line">
<td><strong>全体プロセス時間</strong></td>
<td>約1分28秒</td>
<td>54秒</td>
</tr>
<tr data-line="104" class="code-line">
<td><strong>出力時間 トークン/秒</strong></td>
<td>約6.5トークン/秒</td>
<td>約9トークン/秒</td>
</tr>
<tr data-line="105" class="code-line">
<td><strong>プロンプト評価速度 (tps)</strong></td>
<td>約47 tps</td>
<td>約97 tps</td>
</tr>
<tr data-line="106" class="code-line">
<td></td>
<td></td>
<td></td>
</tr>
</tbody>
</table>
<h3 id="llama-7b%E3%83%A2%E3%83%87%E3%83%AB%E3%81%AE%E5%90%84m%E3%83%81%E3%83%83%E3%83%97%E6%80%A7%E8%83%BD%E5%AE%9F%E6%B8%AC%E5%80%A4%E3%81%BE%E3%81%A8%E3%82%81" data-line="107" class="code-line">
<a class="header-anchor-link" href="#llama-7b%E3%83%A2%E3%83%87%E3%83%AB%E3%81%AE%E5%90%84m%E3%83%81%E3%83%83%E3%83%97%E6%80%A7%E8%83%BD%E5%AE%9F%E6%B8%AC%E5%80%A4%E3%81%BE%E3%81%A8%E3%82%81" aria-hidden="true"></a> llama 7Bモデルの各Mチップ性能実測値まとめ</h3>
<p data-line="108" class="code-line"><span class="embed-block zenn-embedded zenn-embedded-card"><iframe id="zenn-embedded__feae7c716722" src="https://embed.zenn.studio/card#zenn-embedded__feae7c716722" data-content="https%3A%2F%2Fgithub.com%2Fggerganov%2Fllama.cpp%2Fdiscussions%2F4167" frameborder="0" scrolling="no" loading="lazy"></iframe></span><a href="https://github.com/ggerganov/llama.cpp/discussions/4167" style="display:none" target="_blank" rel="nofollow noopener noreferrer">https://github.com/ggerganov/llama.cpp/discussions/4167</a></p>
<ul data-line="109" class="code-line">
<li data-line="109" class="code-line">macでは量子化するとスピードが若干落ちてる</li>
</ul>
<h3 id="%E2%86%91%E3%82%92%E3%82%B0%E3%83%A9%E3%83%95%E3%81%AB%E3%81%97%E3%81%A6%E3%81%8F%E3%82%8C%E3%81%9F%E3%82%84%E3%81%A4" data-line="111" class="code-line">
<a class="header-anchor-link" href="#%E2%86%91%E3%82%92%E3%82%B0%E3%83%A9%E3%83%95%E3%81%AB%E3%81%97%E3%81%A6%E3%81%8F%E3%82%8C%E3%81%9F%E3%82%84%E3%81%A4" aria-hidden="true"></a> ↑をグラフにしてくれたやつ</h3>
<p data-line="112" class="code-line"><span class="embed-block zenn-embedded zenn-embedded-card"><iframe id="zenn-embedded__1831e15ff8004" src="https://embed.zenn.studio/card#zenn-embedded__1831e15ff8004" data-content="https%3A%2F%2Fllm-speed-viz.vercel.app" frameborder="0" scrolling="no" loading="lazy"></iframe></span><a href="https://llm-speed-viz.vercel.app" style="display:none" target="_blank" rel="nofollow noopener noreferrer">https://llm-speed-viz.vercel.app</a></p>
<h3 id="mlx_lm%E3%81%AB%E3%81%A4%E3%81%84%E3%81%A6" data-line="114" class="code-line">
<a class="header-anchor-link" href="#mlx_lm%E3%81%AB%E3%81%A4%E3%81%84%E3%81%A6" aria-hidden="true"></a> mlx_lmについて</h3>
<p data-line="115" class="code-line"><span class="embed-block zenn-embedded zenn-embedded-card"><iframe id="zenn-embedded__bd4b1ab7a9e9a" src="https://embed.zenn.studio/card#zenn-embedded__bd4b1ab7a9e9a" data-content="https%3A%2F%2Fzenn.dev%2Fmichy%2Farticles%2F041d0db2ae9895" frameborder="0" scrolling="no" loading="lazy"></iframe></span><a href="https://zenn.dev/michy/articles/041d0db2ae9895" style="display:none" target="_blank">https://zenn.dev/michy/articles/041d0db2ae9895</a><br style="display:none">
<span class="embed-block zenn-embedded zenn-embedded-card"><iframe id="zenn-embedded__8134e0489c926" src="https://embed.zenn.studio/card#zenn-embedded__8134e0489c926" data-content="https%3A%2F%2Fqiita.com%2FasamiKA%2Fitems%2F3fdf89771084e3625643" frameborder="0" scrolling="no" loading="lazy"></iframe></span><a href="https://qiita.com/asamiKA/items/3fdf89771084e3625643" style="display:none" target="_blank" rel="nofollow noopener noreferrer">https://qiita.com/asamiKA/items/3fdf89771084e3625643</a></p>


2025年さらに熱くなるであろうローカルLLMのためのm4mac購入検討

ローカルLLMのためにmacを買うモチベを整理

ローカルLLMのパラメータサイズ x 量子化bit数に応じたメモリサイズ目安

m4 mac book proの性能と価格の整理

処理スピードをどこまでもとめるか？

mac、ローカルLLMの購入に関する記事

llama 7Bモデルの各Mチップ性能実測値まとめ

makio

<p data-line="0" class="code-line">私もMac買うかどうかで悩んでいてこのページを見つけました。<br>
一つご報告ですがGeForce RTX 4090 は2025/3/4時点でほぼ完売してます。<br>
現時点では5090の100万円コースくらいしかないです。</p>


<p data-line="0" class="code-line">コメントありがとうございます。<br>
選定基準として「値段」に加え「手に入りやすさ」もありますよね。</p>
<p data-line="3" class="code-line">Nvidiaからdigitsというmini pcが5月に出るらしいのでそっちも気になってます。</p>
<p data-line="5" class="code-line">が、とりあえず私は今週発売されるであろうairを楽しみに待ち、購入しようと思います😀</p>


Discussion