Zenn
🐥

レコメンデーションシステムのモデルを安全にアップデート・デプロイする方法

2025/03/12に公開
Kubeflow
MLOps
中野哲平
tech

1. はじめに

メディアコンテンツのプラットフォームでは、ユーザーの行動に基づいてコンテンツを推薦するレコメンデーションシステムが重要な役割を果たします。新しいモデルの精度向上やユーザー体験の改善のために、MLOpsの技術（Airflow, Kubernetes, Kubeflow, Istio, Terraform, Helm など）を活用し、安全にモデルをアップデート・デプロイする方法を解説します。

2. システムの概要とアップデートの流れ

レコメンデーションシステムのモデル更新プロセスは、以下のステップで進めます。

ステップ 1. モデルの開発と検証

  • データの前処理と特徴量エンジニアリング（Airflow + Feature Store）
  • モデルのトレーニングと評価（Kubeflow Pipelines）
  • モデルの精度検証とバージョン管理（MLflow）

ステップ 2. モデルのデプロイ準備

  • Kubernetes環境の構築と管理（Terraform + Helm）
  • モデルサービングの設定（KFServing）
  • デプロイ前のA/Bテストとカナリアリリース（Istio）

ステップ 3. モデルのデプロイと監視

  • モデルのデプロイとスケール管理（Kubernetes）
  • モニタリングとログ分析（Prometheus + Grafana）
  • データドリフトとモデルの再学習トリガー（Airflow）

3. 実装の詳細

ステップ 1: モデルの開発と検証

1-1. データパイプラインの構築（Airflow）

  • Airflow を用いて ETL（データ抽出・変換・ロード） パイプラインを自動化
  • Feature Store（Feast）を活用して特徴量を管理
from airflow import DAG
from airflow.operators.python_operator import PythonOperator
from datetime import datetime

def extract_transform_load():
    # データの収集・前処理
    print("データのETLを実行")

with DAG(dag_id='etl_pipeline', schedule_interval='@daily', start_date=datetime(2024, 1, 1)) as dag:
    etl_task = PythonOperator(task_id='etl_task', python_callable=extract_transform_load)

1-2. モデルのトレーニング（Kubeflow Pipelines）

  • Kubeflow Pipelines を活用してモデルのトレーニングワークフローを作成
  • Katib を使ってハイパーパラメータチューニング
import kfp.dsl as dsl
from kfp.components import create_component_from_func

def train_model():
    print("モデルの学習開始")

@dsl.pipeline(name='Train Recommendation Model')
def train_pipeline():
    train_op = create_component_from_func(train_model)()

1-3. モデルのバージョン管理（MLflow）

  • MLflow を用いて モデルのトラッキング・バージョン管理 
import mlflow
mlflow.set_experiment("recommendation_model")

with mlflow.start_run():
    mlflow.log_param("learning_rate", 0.01)
    mlflow.log_metric("accuracy", 0.95)
    mlflow.sklearn.log_model(model, "model")

ステップ 2: モデルのデプロイ準備

2-1. Kubernetes環境の構築（Terraform + Helm）

  • Terraform を用いて Kubernetes クラスタを作成
provider "aws" {
  region = "us-west-2"
}
resource "aws_eks_cluster" "ml_cluster" {
  name = "ml-cluster"
}
  • Helm を使って Kubeflow をデプロイ
helm repo add kubeflow https://charts.kubeflow.org
helm install kubeflow kubeflow/kubeflow

2-2. モデルサービング（KFServing）

  • KFServingを利用し、Kubernetes上でモデルをサービング
apiVersion: serving.kubeflow.org/v1beta1
kind: InferenceService
metadata:
  name: recommendation-model
spec:
  predictor:
    tensorflow:
      storageUri: s3://my-bucket/models/recommendation-model

2-3. A/Bテストとカナリアリリース（Istio）

  • IstioのVirtualServiceを設定し、カナリアリリースを実施
apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
  name: recommendation-model
spec:
  hosts:
  - recommendation-service
  http:
  - route:
    - destination:
        host: recommendation-model-v1
      weight: 80
    - destination:
        host: recommendation-model-v2
      weight: 20

ステップ 3: モデルのデプロイと監視

3-1. モデルのデプロイ（Kubernetes）

  • Kubernetesを使ってスケーラブルにモデルを運用
kubectl apply -f recommendation-model.yaml

3-2. モニタリングとデータドリフト検知（Prometheus + Grafana + Airflow）

  • Prometheus でメトリクスを収集し、Grafanaで可視化
  • データドリフトを検知し、Airflowで再学習を自動化
apiVersion: monitoring.coreos.com/v1
kind: ServiceMonitor
metadata:
  name: recommendation-monitoring
spec:
  endpoints:
  - port: http-metrics

4. まとめ

このブログでは、MLOpsの技術を活用し、レコメンデーションシステムのモデルを安全にデプロイする方法 を解説しました。

✅ データパイプラインの自動化（Airflow）
✅ モデルの学習・管理（Kubeflow, MLflow）
✅ インフラのコード化（Terraform, Helm）
✅ モデルのサービング（KFServing）
✅ 安全なデプロイ（Istio）
✅ モニタリングと再学習（Prometheus, Grafana, Airflow）

この手順を参考に、安全なMLOps環境を構築してください！

Discussion