Open3

メタデータ関連

YuichiYuichi

ラベル整備

ラベルを整理する。BigQuery リソースを整理するために、データセット、テーブル、ビューにラベルを追加できます。
https://cloud.google.com/bigquery/docs/labels-intro?hl=ja
https://tech.mfkessai.co.jp/2021/02/bigquery_labels/
付与するメリット
ラベルごとのコスト確認ができる。テーブルの状態がわかる

  • データの状態:deprecated, supported or state:active、state:readytodelete、state:archive
  • マネーフォワード的には
    • サポートステータスstateを明示したことで非推奨リソースを参照するクエリジョブを簡単に探せて、embulkからBigQueryのCloud SQL連携クエリに素早く移行できた
    • 保証更新頻度update_frequencyを元に要求されている更新頻度を保てているかチェックでき、データの最新性管理が可能になった
    • 作ったビューに、実体化頻度materialization_frequencyラベルをつければ、実体化を自動的に行うようになった

タグ整備

タグを用いて、IAM制御や秘密情報管理を検討する
https://techblog.zozo.com/entry/policy-tag-usage-to-protect-bigquery-sensitive-data
https://zenn.dev/ohsawa0515/articles/review-bigquery-tag-datasets