Closed2023/06/01にクローズ1

TextSynth ServerをWSL2で動かす

WSL

textsynthserver

rokki 2023/06/01に更新

Overview

面白そうなのでWSL2 (Ubuntu 20.04) で TextSynth Server を動かしてみた

手順

基本的にドキュメントに従う。

If you use Fedora, RHEL, CentOS or RockyLinux, you can type as root: dnf install libjpeg libmicrohttpd とある通り、そのままだと、WSL2(Ubuntu 20.04)では無理そう。

libjpegとlibmicrohttpdについては、下記の通り、なんやかんやして入れる。

libjpeg の代替

以下の記事の通り、libjpeg-turbo をソースからビルドする
- libjpeg-turbo をソースからビルドする
libjpeg62 を入れるとダメっぽいので、上記の方法とした（詳細は立ち入っていない）

./ts_server: /lib/x86_64-linux-gnu/libjpeg.so.62: version `LIBJPEGTURBO_6.2' not found (required by ./ts_server)

libmicrohttpd の代替

devならあったのでこれを入れる

$ sudo apt install libmicrohttpd-dev

ts_server の実行

ビルドした so の場所を教えてあげつつ、実行する

$ LD_LIBRARY_PATH=/opt/libjpeg-turbo/lib64/ ./ts_server ts_server.cfg
Started.

curl でAPIをたたく

$ curl http://localhost:8080/v1/engines/gpt2_117M/completions \
  -H "Content-Type: application/json" \
  -d '{"prompt": "Why do Japanese people say that they have blue traffic lights when they are really green?", "max_tokens": 200}'

実行結果

🤞

このスクラップは2023/06/01にクローズされました