Second Me を 非Macで動かす

env

• Ubuntu 24.04.1 LTS
• NVIDIA GeForce RTX 2060
  • NVIDIA-SMI 570.86.10
  • Driver Version: 570.86.10
  • CUDA Version: 12.8
• conda 25.1.1
• Python 3.12.9
• npm 10.9.2

setup

conda と zsh さえ事前に用意しておけば、それほど苦労せずローカルで動作した

• conda の install
• zsh の install
• scripts/setup.sh の macos 関連の処理をコメントアウト

あたりが必要

以下のissueが詳しい
https://github.com/mindverse/Second-Me/issues/22

所感

• 上記の setup さえ乗り越えれば、何もエラーなく chat 可能なところまで動作したのはよかった
• ローカル環境で動作するモデルQwen2.5-0.5B-Instruct (8GB+ RAM Recommended) を選定したせいか、chatでの応答は微妙だった
• クエリに対してまともな日本語で回答してくれない印象で、upload した memory に含まれるワードを尋ねても、覚えてはいるが、的を得ない返答だった
• Upload Your Memory として、pdf, txt, markdown が使えるのはよかった
  • pdf は OCR が走っている様子だった
• また、自分の経験や記憶をどれだけ export 可能な形に残しているか、に気づけたのが良かった
• ブログや発表資料を集めた結果、15 ファイル（total 8MB）ほどだった
• Daya Synthesis として OpenAI を指定。1M tokens の利用となり、約 $0.27 かかった