🗣️

ローカルMacでAIとおしゃべり

2024/08/27に公開

chat

idea

ローカルMacでAIチャット

shi3zさんのこちらの記事を試しました。

自分のMacbook（M2モデル 16GB）だと、レスポンス的にはちょっと実用性は低かったです。でも、完全にローカルで、普通に会話できるようなAIが動くようになってきたことには、今後の可能性を感じますね。

ちょっと途中でハマったりしたので、手順残しておきます。

セットアップ方法

事前準備

以下のようなエラーが出たので、OSアップデートから必要でした。

ImportError: dlopen(/Users/karaage/miniforge3/envs/python311/lib/python3.11/site-packages/mlx/core.cpython-311-darwin.so, 0x0002): Symbol not found: _cblas_sgemm$NEWLAPACK
  Referenced from: <D3EC3100-A97D-3E40-BDFB-7D985C7D960C> /Users/karaage/miniforge3/envs/python311/lib/python3.11/site-packages/mlx/lib/libmlx.dylib (built for macOS 13.5 which is newer than running OS)

OSアップデート

必要なMacのソフトインストール

自分はHomebrewでFFMpegをインストールしました。

$ brew install ffmpeg

人によっては以下のコマンドでXcodeとかもろもろインストール必要かもしれません。

$ xcode-select --install

$ brew gcc

Python環境

MiniForgeを使いました。ここらへんは個々人の趣向もあると思いますのでお好みですね。

以下コマンドでPython3.11をセットアップします。

$ conda create --name python311 python=3.11
$ conda activate python311

ソフトのセットアップ

あとは、公式READMEほぼそのままです。

$ cd && git clone https://github.com/shi3z/speech-to-speech-japanese
$ cd speech-to-speech-japanese
$ pip install git+https://github.com/nltk/nltk.git@3.8.2
$ git clone https://github.com/reazon-research/ReazonSpeech
$ pip install Cython
$ pip install ReazonSpeech/pkg/nemo-asr
$ git clone https://github.com/myshell-ai/MeloTTS
$ cd MeloTTS
$ pip install -e .
$ python -m unidic download
$ cd ..
$ pip install -r requirements.txt
$ pip install transformers==4.44.1
$ pip install mlx-lm
$ pip install lightning_whisper_mlx
$ pip install protobuf --upgrade

セットアップ終わったら、あとは以下コマンド実行するとソフトが動きます。

$ cd ~/speech-to-speech-japanese
$ python s2s_pipeline.py --mode local --device mps

まとめ

動かし方を簡単にまとめました。必要に応じて追記します。