🤖

Prompt flowにおけるコンピューティング セッション、コンピューティング リソース、フロー、ユーザーの関係

2024/08/20に公開

なぜ調べたのか

Prompt flowを動かす際に、以下が気になったため。

  • 他の人が同じコンピューティングリソースで同じフローを同時に動かせるのか?
  • 同じコンピューティングリソースで同時に複数のフローを動かせるのか?

調べた結果

公式に記されている。

https://learn.microsoft.com/ja-jp/azure/machine-learning/prompt-flow/how-to-manage-compute-session?view=azureml-api-2&tabs=cli#relationship-between-compute-session-compute-resource-flow-and-user

以下は、記事をCopilotで要約したもの

  • ユーザーとリソース: 1人のユーザーが複数のコンピューティングリソースを持つことができ、異なるニーズに対応します
  • 専用リソース: コンピューティングリソースは1人のユーザー専用で、共有はできません
  • 複数セッション: 1つのリソースで複数のセッションをホスト可能です
  • セッションの割り当て: 1つのセッションは一度に1つのリソースに属しますが、再割り当てが可能です
  • フローとセッション: 各フローは1つのセッションのみを使用します

所感として、上記の2項目で他ユーザーとは切り離して、安全にPrompt flowのコンピューティングができるのは良いなと感じた次第。

結論

  • 他の人が同じコンピューティングリソースで同じフローを同時に動かせるのか?
    ➡1コンピューティングリソース1ユーザー専用なので、出来なさそう。

  • 同じコンピューティングリソースで同時に複数のフローを動かせるのか?
    ➡1コンピューティングリソースで複数のセッションをホスト可能とあるので、出来そう。

ヘッドウォータース

Discussion