Apple silicon Mac用モニタリングツール「pumas」を使ってみる

https://github.com/graelo/pumas

Apple silicon MacでローカルLLM動かすときにGPUも含めたリソース消費状況とかを見るならば、asitopが一般的なのだろうけども、うちの環境（M2 Pro）だとこうなる。

CPUが常に100%になる。

ただしhtopで見るとこう。

たぶんこの辺のissueがこの事象。

https://github.com/tlkh/asitop/issues/59

https://github.com/tlkh/asitop/pull/68

今のところは修正される気配がないように思えるのだけど、上記issueの中で紹介されていたのが「pumas」。ということで試してみる。

インストールはhomebrewでインストールするだけ。

$ brew install graelo/tap/pumas

起動

$ sudo pumas run

起動した

Overviewが表示されている。カーソルキーでタブを移動できる。

CPU

GPU

SOC

終了はesc / q / xで。

メモリは今のところ出ないのでhtopと併用する感じかな。