📐

RAGAS評価時に発生するリクエストタイムアウト回避方法

2024/10/10に公開

背景

ragasのevaluate()で、評価実行した際に容量の大きいデータだとリクエストタイムアウトが稀に発生していた。

結論

以下のように、RunConfigを指定する

score = evaluate(dataset, metrics=metrics, llm=llm, embeddings=embeddings, run_config=RunConfig(timeout=600.0, max_workers=128))
  • timeout
    デフォルト値は60(sec)。1操作を待機する時間。

  • max_workers
    デフォルト値は16。同時実行可能なタスクの最大数。

ヘッドウォータース

Discussion