ヘッドウォータースPublication Pro📐RAGAS評価時に発生するリクエストタイムアウト回避方法yu shimohama2024/10/10に公開RAGRagastech 背景 ragasのevaluate()で、評価実行した際に容量の大きいデータだとリクエストタイムアウトが稀に発生していた。 結論 以下のように、RunConfigを指定する score = evaluate(dataset, metrics=metrics, llm=llm, embeddings=embeddings, run_config=RunConfig(timeout=600.0, max_workers=128)) timeout デフォルト値は60(sec)。1操作を待機する時間。 max_workers デフォルト値は16。同時実行可能なタスクの最大数。 ヘッドウォータースPublication Pro株式会社ヘッドウォータースのテックブログです。 AIエージェント、生成AI、LLM、Azureのサービスや資格、IoT、XR系などData&AIとApp modernizeに関して幅広く投稿します!Discussion
Discussion