Framepackのセットアップ (ubuntu 20.04)

今，話題のFramepackを使ってみたという記事です．
https://github.com/lllyasviel/FramePack

検証環境

GeForce RTX 4080 Super (16GB)
ubuntu 20.04
cuda 12.1 or 12.6（公式には，12.6にしろって書いてありますが，大丈夫でした）
Python 3.10.0 or 3.10.12

準備

必要であれば，

python -m pip install --upgrade pip
pip install wheel

flash-atten インストール

git clone https://github.com/Dao-AILab/flash-attention.git
cd flash-attention/
pip install .

xformers　インストール

#[linux only] cuda 11.8 version
pip3 install -U xformers --index-url https://download.pytorch.org/whl/cu118
#[linux & win] cuda 12.4 version
pip3 install -U xformers --index-url https://download.pytorch.org/whl/cu124
#[linux & win] cuda 12.6 version
pip3 install -U xformers --index-url https://download.pytorch.org/whl/cu126

install sage-attention (linux):

pip install sageattention==1.0.6

作成デモ

python demo_gradio.py --port 9999

localhost:9999で遊べると思います．