🐶

API Gateway + Lambda + DynamoDB で部分取得・更新・削除を実装する

2024/11/16に公開

概要

大規模なデータセットを CRUD する場合、効率性を保ちながらデータを操作するには部分的な取得・更新・削除操作が重要です。

この記事では、API Gateway, Lambda, DynamoDB を用いた一般的な AWS サーバレス構成における、部分 CRUD に対応した 汎用的な REST API を実装することを目指します。

部分取得

以下の User エンティティを考えます

type User = {
  id: string;
  username: string;
  bio?: string; // typescriptにおけるoptional表現
};

ここから username 属性だけを取得するにはどうすれば良いでしょうか?

以下のステップに分けて考えてみましょう。

  1. 取得したい属性を指定する
  2. 指定した属性のみ取得する
  3. 特殊な名前を持つ属性に対応する
  4. 深さのある属性に対応する

1. 取得したい属性を指定する

レスポンスデータの取得属性を絞るための一般的な手段として、クエリパラメータが挙げられます。

例えば、username 属性のみを取得する場合は、GET /users/:userId?field=username のようになります。

あるいは複数の属性を取得する場合、 ?field=username&field=bio のようになるでしょう。

今回のように、API Gateway + Lambda の場合は、Lambda ハンドラ内で以下のように field パラメータを受け取ります。

// 存在しない場合は[]にフォールバック
const fields = event.multiValueQueryStringParameters?.field ?? [];

2. 指定した属性のみ取得する

受け取った field パラメータは、ProjectionExpression として DynamoDB へのクエリに反映させる必要があります。

例えば、username 属性 と bio 属性を取得したい場合は ProjectionExpression: 'username, bio' となります。

任意の field パラメータに対しては、

const input: GetCommandInput = {
  TableName: tableName
  Key: { id: userId },
};

// fieldが指定されている場合、ProjectionExpressionに反映させる
if (fields.length > 0) {
  input.ProjectionExpression = fields.join(', ');
}

と実装することができます。

3. 特殊な名前を持つ属性に対応する

ProjectionExpression パラメータには、DynamoDB の予約語( NameSize 等)を使用できないという制約があります。

この制約に対応するために、ExpressionAttributeNames によるエイリアスを使用します。

例えば、 Name 属性と Size 属性を取得したい場合は

// エイリアスされた属性名で構成される
input.ProjectionExpression = '#attr0, #attr1';
input.ExpressionAttributeNames = {
  '#attr0': 'Name',
  '#attr1': 'Size',
};

という設定値になっている必要があります。

任意の field パラメータに対しては、

// エイリアスオブジェクトの初期化
const expressionAttributeNames: Record<string, string> = {};

// プレースホルダーを用いた projectedFields を計算
const projectedFields = fields.map((field, i) => {
  // プレースホルダを生成し、実際の field にエイリアス
  const placeholder = `#attr${i}`;
  expressionAttributeNames[placeholder] = field;
  return placeholder;
});

// コマンドinputにエイリアスを設定
input.ProjectionExpression = projectedFields.join(', ');
input.ExpressionAttributeNames = expressionAttributeNames;

と実装することができます。

4. 深さのある属性に対応する

既存の User エンティティに、以下のような preferences 属性を追加し、preference.language 属性だけを取得すること考えます。

type User = {
  // 他の属性は省略
  preferences: {
    language: 'en' | 'jp';
    notifications: {
      email: boolean;
      sms: boolean;
    };
  };
};

この場合、?field=preference.language のようなパラメータ指定が考えられます。

しかしながら、このように指定した場合 DynamoDB は 「 preference 属性の language 属性の値」ではなく、「 preference.language という 1 階層の属性の値」を取得しようとする仕様を持ちます。

これを防ぐために、以下のように ExpressionAttributeNamesProjectionExpression を設定する必要があります。

input.ProjectionExpression = '#attr0_0.#attr0-1'; // 各階層ごとにエイリアスが必要
input.ExpressionAttributeNames = {
  '#attr0_0': 'preference',
  '#attr0_1': 'language',
};

任意のケースに対応するためには、

const expressionAttributeNames: Record<string, string> = {};
const projectedFields = fields.map((field, i) => {
  // 属性をドットで分割
  const fieldParts = field.split('.');
  // 各階層ごとに ExpressionAttributeNames に反映
  const placeholders = fieldParts.map((fieldPart, k) => {
    const placeholder = `#attr${i}_${k}`;
    expressionAttributeNames[placeholder] = fieldPart;
    return placeholder;
  });
  // エイリアス済みの属性名を結合して ProjectionExpression を構成
  return placeholders.join('.');
});
input.ProjectionExpression = projectedFields.join(', ');
input.ExpressionAttributeNames = expressionAttributeNames;

のように実装することができます。

ただしこのままだと、いくらでも深い field を指定できてしまうため、 field の深さを制限しておきます。

// 3階層目以降の属性は個別に取得できない
// preferences.notifications.sms -> ['preferences', 'notifications']
const maxDepth = 2;
const fieldParts = field.split('.').slice(0, maxDepth);

以上で、基本的な部分取得の実装は完了です。

部分更新

部分更新の考え方は、部分取得よりも少し複雑です。

以下のステップに分けて検討します。

  1. 更新したい属性を指定する
  2. 指定した属性のみ更新する
  3. 特殊な名前を持つ属性に対応する、深さのある属性に対応する
  4. 【new】暗黙的に属性を指定する

1. 更新したい属性を指定する

部分取得同様、更新したい属性は field パラメータを用いて指定します。

例えば、username 属性のみを更新する場合は、PATCH /users/:userId?field=username のようになります。

2. 指定した属性のみ更新する

更新クエリにおいては、ProjectionExpression の代わりに UpdateExpression を使用します

例えば、username 属性 と bio 属性を更新したい場合は、

const username = 'ユーザ1';
const bio = 'ユーザ1のbio';
input.UpdateExpression = `SET username = ${username}, bio = ${bio}`;

のように UpdateExpression を定義します。

任意の属性について UpdateExpression を定義する場合は、

// 更新式は SET から開始
let updateExpression = 'SET ';

// 各属性ごとに式を作成し追加
updateExpression += fields
  .map((field) => `${field} = ${data[field]}`)
  .join(', ');

のように実装することができます。

3. 特殊な名前を持つ属性に対応する、深さのある属性に対応する

部分取得の場合同様、DynamoDB の予約語や、深い属性の問題に対応する必要があります。

さらに部分更新の場合は、属性名に対応する「値」においても、予約語を回避する必要があります。

例えば、 preferences.language 属性を、jp に更新したい場合は、

const language = 'jp';
input.ExpressionAttributeNames = {
  '#attr0_0': 'preferences',
  '#attr0_1': 'language',
};
input.ExpressionAttributeValues = {
  ':val0': language,
};
input.UpdateExpression = `SET #attr0_0.#attr0_1 = :val0`;

というコマンド設定になります。

任意の属性名とその値に対しては、以下のように実装することができます。

// エイリアスオブジェクト(属性名、値)と更新式
const expressionAttributeNames: Record<string, string> = {};
const expressionAttributeValues: Record<string, any> = {};
let updateExpression = 'SET ';

// 属性の深さを制限
const targetFields = fields.map((field) =>
  field.split('.').slice(0, maxFieldDepth).join('.')
);

// field ごとに更新式を生成し、カンマで結合
updateExpression += targetFields
  .map((field, i) => {
    // 値のエイリアス
    const valKey = `:val${i}`;
    // 属性名のエイリアス
    const attrKeys = field.split('.').map((fieldPart, k) => {
      const attrKey = `#attr${i}_${k}`;
      expressionAttributeNames[attrKey] = fieldPart;
      return attrKey;
    });
    // 更新データから対象のフィールドの値を取得し、値のエイリアス
    expressionAttributeValues[valKey] = getNestedValue(data, field);
    return `${attrKeys.join('.')} = ${valKey}`;
  })
  .join(', ');

なお、上記実装の途中に登場する getNestedValue(data, field) については、以下のように実装しています。

function getNestedValue<T>(
  data: Record<string, any>,
  field: string
): T | undefined {
  let targetValue: any = data;

  // オブジェクトの場合は指定した子要素を取得
  for (const fieldPart of field.split('.')) {
    if (typeof targetValue !== 'object' || targetValue === null) {
      return undefined;
    }
    targetValue = targetValue[fieldPart];
  }

  return targetValue as T;
}

4. 暗黙的に属性を指定する

以下のようなリクエストが送信された場合、API はどのような挙動をとるべきでしょうか?

PATCH /users/:userId
{
  "username": "ユーザ1_更新",
  "preferences": {
    "language": "jp"
  }
}

他の属性には影響を与えずに、username 属性と preferences.language 属性だけ更新されて欲しいですよね。

このような挙動を実現するためには、field パラメータが指定されない場合に、リクエストボディから動的に field を計算する必要があります。

リクエストボディから field を計算する関数は、以下のように実装できます。

const inferFields = (data: Record<string, any>, maxDepth: number) => {
  const inferredFields: string[] = [];

  // データの各属性について検証
  for (const [field, value] of Object.entries(data)) {
    if (value === undefined) continue;

    if (
      typeof value === 'object' &&
      !Array.isArray(value) &&
      value !== null &&
      maxDepth > 1
    ) {
      // オブジェクトかつnull/配列ではない場合、深さ制限をかけた上で再起的に属性名を連結し、 field を生成する
      const nestedFields = inferFields(value, maxDepth - 1).map(
        (part) => `${field}.${part}`
      );
      inferredFields.push(...nestedFields);
    } else {
      // null/配列/リテラルの場合は、属性名をそのまま field として記載
      inferredFields.push(field);
    }
  }

  return inferredFields;
};

以上で、基本的な部分更新の実装は完了です。

部分削除

部分削除は、部分更新のリクエストに NULL を許容することで実現できます。

例えば、bio 属性を削除したい場合、以下のようにリクエストすることで部分削除が可能です。

PATCH /users/:userId
{
  "bio": null,
}

以上で、基本的な部分削除の実装は完了です。

残存課題

属性の完全な削除

基本的な部分削除においては、属性の値を null に設定することはできますが、属性そのものを消すことはできません。

属性そのものを削除したい場合は、以下のように空のオブジェクトと field 属性を用いると良いでしょう。

PATCH /users/:userId?field=preferences.notifications
{
  "preference": {},
}

ただし注意点として、DynamoDB において属性そのものを削除する場合は、UpdateExpressionREMOVE 句を使用する必要があります。

「指定した field に対応する値が undefined であった場合は REMOVE 句を使用する」という条件分岐が追加する必要があるでしょう。

トレードオフ

以上の内容から読み取れる通り、部分 CRUD の実装は複雑です。またその細部は、使用するインフラ環境に大きく依存します。

さらに注意すべき点として、一つのリソースに対して部分 CRUD を実装する場合は、他の全てのリソースについても同様に部分 CRUD を実装しないと、ユーザーの誤解を招くことになるでしょう。

以上の特性を踏まえた上で、実際の実装時には、実装メリットとコストをしっかりと天秤にかける必要がありそうです。

最後に

今回記事投稿に至った理由としては、DynamoDB の部分 CRUD 操作についての既存情報をほとんど見つけられなかったためです。故に本記事の内容についても、私個人が独自に考えた部分が多いです。

まだまだ浅学の身ですので、仕様の考慮漏れや杜撰な実装等多くあるかと思いますが、何か一つでも参考になるエッセンスを提供できていれば幸いです。

最後まで読んでいただきありがとうございます!
ご意見などございましたら、お気軽にコメントお願いします!

GitHubで編集を提案

Discussion