📐
RAGAS評価時に発生するリクエストタイムアウト回避方法
背景
ragasのevaluate()で、評価実行した際に容量の大きいデータだとリクエストタイムアウトが稀に発生していた。
結論
以下のように、RunConfigを指定する
score = evaluate(dataset, metrics=metrics, llm=llm, embeddings=embeddings, run_config=RunConfig(timeout=600.0, max_workers=128))
-
timeout
デフォルト値は60(sec)。1操作を待機する時間。 -
max_workers
デフォルト値は16。同時実行可能なタスクの最大数。
Discussion