Open6
Vertex AI Pipeline
前身のAI Platform Pipelinesは2024年7月にサービス終了ずみ。
Kubeflow Pipelinesのマネージドサービスと考えて間違いなさそう。
- Python形式でDAGを定義
- IR YAMLと呼ばれるyaml形式に変換
- yamlをKFPバックエンドへsubmit
- KFPバックエンド上で実行
https://www.kubeflow.org/docs/components/pipelines/getting-started/
基本k8s上で実行するが、Runnerを切り替えることでDockerやサブプロセス単位でもコンポーネントを実行可能。
Digdag的にシンプルに使うだけならSubprocessRunnerでOK?
local disk or cloud storage上にファイルの入出力をおく