🐟

AWSのAZ間レイテンシを測定してみた(2023年東京/大阪)

2023/03/18に公開

TL;DR

  • 東京リージョンを利用する際に2AZの冗長化で良い場合のAZ選定
    「apne1-AZ1, apne1-AZ2」の組み合わせで利用するのが、レイテンシ観点からは良い。
    レイテンシ: 800μs程度
  • 大阪リージョンを利用する際に2AZの冗長化で良い場合のAZ選定
    「apne3-AZ1, apne3-AZ2」の組み合わせで利用するのが、レイテンシ観点からは良い。
    レイテンシ: 200μs程度
  • 東京リージョンの方がAZ間レイテンシが平均的に高い(大阪リージョンと比較して)
  • 大阪リージョンの方がAZ間レイテンシが平均的に低い(東京リージョンと比較して)

おことわり

この記事は注意を払って記載しておりますが、測定結果を利用して生じた一切の責任は負いません。
実際に測定を行いたい方はGitHubに今回測定を行った環境を再現できるTerraform(IaC)がありますので、ご参考になれば幸いです。
※イケていない部分などあれば、こちらまたはGitHub上のIssuesにコメントいただけると幸甚です!

1. はじめに

1.1 背景

AWSは複数リージョンと複数アベイラビリティーゾーン(AZ)を提供しており、高い可用性と耐障害性を実現しています。
リージョンやAZ間での通信レイテンシがアプリケーションのパフォーマンスに影響を与えることがあるため、利用するリージョンやAZの選択はシステムを構築する上で大切なポイントとなります。

特に、日本国内のAWS利用者にとって、東京リージョン(ap-northeast-1)と大阪リージョン(ap-northeast-3)のAZ間レイテンシは重要です。
AZ間のレイテンシが十分に考慮(理解)されていないと、パフォーマンスの問題や運用上のリスクが生じる可能性があります。
特にSAPなどのシステムをAWS上で動かす際にはAZ間のレイテンシを考慮することが重要となります。

1.2 目的

本記事では2023年3月現在の東京リージョンと大阪リージョンの各AZ間のレイテンシを測定し、その結果を考察します。
日本国内のAWS利用者がリージョンやAZの選択を行う際に、レイテンシの観点から適切な設計の材料となるような情報の提供を目的としています。

まずはAWSにおける、リージョンとAZについての基本的な説明を行います。
その後、実際の測定方法, 結果, 考察と順を追って記載していきます。

2. AWSのリージョンとアベイラビリティーゾーン(AZ)について

2.1 リージョンとは

リージョンとは、AWSが提供するAZが集まったものです。
各リージョンは地理的に離れた複数のAZで構成されており、リージョン間で独立したインフラストラクチャが存在しています。つまり、リージョンが異なる場合、他リージョンの影響(自然災害など)を受けずにシステム運用がおこなえます。
AWSは世界中に複数のリージョンを展開しており、ユーザーは自分のニーズに合わせてリージョンを選択できます。リージョン選択の主なポイントは以下の通りです。

  • レイテンシ:
    利用ユーザがいる場合、ユーザから地理的に近いリージョンを選択することで、レイテンシが向上するため、利用ユーザに近いリージョンの選択を検討する。

  • コンプライアンス要件:
    データ国内に格納することが義務付けられている場合などは対象の国内にあるリージョンを選択する。

  • AWSサービスの充実度:
    すべてのAWSサービスがすべてのリージョンで利用できるわけではないため、利用したいサービスが利用可能なリージョンを選択する。

  • コスト:
    AWSはリージョンごとにサービスの価格が異なるため、他の要件が許すのであれば国外の安いリージョンの利用を選択する。

最新リージョン一覧はAWS公式AWS グローバルインフラストラクチャを参照してください。

2.2 アベイラビリティゾーン(AZ)とは

アベイラビリティーゾーン(AZ)は、リージョン内の独立した複数のデータセンターをまとめた単位です。
各AZは低レイテンシで接続されており、独立した電源、ネットワーク、冷却システムを持っています。これにより、単一のAZで問題が発生した場合でも、他のAZが影響を受けずに稼働を続けることができるため、可用性, 耐障害性などを求めるシステムについては複数のAZを利用して構成することが必要です。
各AZを一意に識別するためにAZ IDが存在しています。ap-northeast-1aなどのAZ名はAWSアカウント毎に異なる場合があるため、複数のAWSアカウント間でネットワーク接続を行う場合には、AZ IDを意識して接続することが必要です。

3. レイテンシ測定方法

3.1 測定対象のリージョン, AZ ID

今回は東京リージョンと大阪リージョンでリージョン内のレイテンシ測定を行います。
各リージョンの測定対象AZ IDは以下の通りです。

東京リージョン(ap-northeast-1)

  • apne1-az1
  • apne1-az2
  • apne1-az4

大阪リージョン(ap-northeast-3)

  • apne3-az1
  • apne3-az2
  • apne3-az3

3.2 ツールと手法

今回はnetperfTCP Request/Responseという手法でテストを行います。
選定理由としては、実際の通信を行う際にはTCPが多いかと思いますので、実際のレイテンシに近い値になるように今回の手法を選定しました。

3.3 測定環境構成図

image

4. レイテンシ測定結果

レイテンシの測定は日本時間の2023年3月11(土)16時ころに実施しました。
60秒間の測定を2回行い、それぞれ平均のレイテンシ(μs)を記載しています。
※μs = マイクロ秒

最小レイテンシ, 最大レイテンシ, 標準偏差 etc.. を知りたい方は↓のアコーディオンを開いていただけると、実際の測定した結果のアウトプットが見れます。

netperfによる測定結果(東京)

From: "apne1-az1"

1回目

###########################  Destination: 10.0.101.81  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.101.81 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
99           256.24       1056         9.06         3900.538    

###########################  Destination: 10.0.102.50  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.102.50 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
459          472.16       5161         15.10        2117.329    

###########################  Destination: 10.0.103.130  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.103.130 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
1709         1722.98      3698         14.17        580.329

2回目

###########################  Destination: 10.0.101.81  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.101.81 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
68           83.70        1057         7.08         11933.369   

###########################  Destination: 10.0.102.50  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.102.50 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
847          869.11       1741         17.88        1150.434    

###########################  Destination: 10.0.103.130  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.103.130 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
1714         1813.96      3577         96.61        551.220   

From: "apne1-az2"

1回目

###########################  Destination: 10.0.101.81  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.101.81 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
772          797.00       1604         20.02        1254.478    

###########################  Destination: 10.0.102.50  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.102.50 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
190          202.75       1879         8.21         4929.161    

###########################  Destination: 10.0.103.130  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.103.130 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
1609         1755.84      3286         115.19       569.465 

2回目

###########################  Destination: 10.0.101.81  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.101.81 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
769          787.35       1588         8.35         1269.858    

###########################  Destination: 10.0.102.50  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.102.50 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
190          202.78       929          9.23         4928.531    

###########################  Destination: 10.0.103.130  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.103.130 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
1427         1530.97      2923         100.78       653.105  

From: "apne1-az4"

1回目

###########################  Destination: 10.0.101.81  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.101.81 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
1590         1604.84      3233         11.97        623.047     

###########################  Destination: 10.0.102.50  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.102.50 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
1143         1157.61      2340         9.88         863.725     

###########################  Destination: 10.0.103.130  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.103.130 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
236          258.41       922          21.02        3868.142 

2回目

###########################  Destination: 10.0.101.81  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.101.81 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
1540         1556.24      3148         11.61        642.504     

###########################  Destination: 10.0.102.50  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.102.50 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
1141         1160.79      2330         20.04        861.371     

###########################  Destination: 10.0.103.130  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.103.130 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
235          258.96       1291         24.61        3859.893
netperfによる測定結果(大阪)

From: "apne3-az1"

1回目

###########################  Destination: 10.0.101.253  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.101.253 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
39           48.78        589          4.67         20457.040   

###########################  Destination: 10.0.102.92  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.102.92 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
206          221.27       1363         9.98         4516.722    

###########################  Destination: 10.0.103.152  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.103.152 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
469          480.50       985          4.90         2080.602  

2回目

###########################  Destination: 10.0.101.253  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.101.253 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
37           48.79        799          4.56         20448.505   

###########################  Destination: 10.0.102.92  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.102.92 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
208          221.94       479          10.49        4503.302    

###########################  Destination: 10.0.103.152  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.103.152 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
470          482.12       1116         8.77         2073.572 
```sh
## From: "apne3-az2"
1回目
```sh
###########################  Destination: 10.0.101.253  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.101.253 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
207          218.82       465          5.27         4567.609    

###########################  Destination: 10.0.102.92  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.102.92 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
42           52.17        1033         4.63         19126.955   

###########################  Destination: 10.0.103.152  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.103.152 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
444          456.00       940          5.53         2192.411   

2回目

###########################  Destination: 10.0.101.253  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.101.253 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
207          218.19       756          5.45         4580.585    

###########################  Destination: 10.0.102.92  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.102.92 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
40           51.96        561          5.34         19202.388   

###########################  Destination: 10.0.103.152  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.103.152 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
444          471.03       1137         17.61        2122.459 

From: "apne3-az3"

1回目

###########################  Destination: 10.0.101.253  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.101.253 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
629          640.78       1367         6.23         1560.264    

###########################  Destination: 10.0.102.92  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.102.92 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
585          600.74       1458         10.27        1664.261    

###########################  Destination: 10.0.103.152  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.103.152 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
187          199.24       1107         13.84        5015.680  

2回目

###########################  Destination: 10.0.101.253  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.101.253 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
595          606.82       1298         5.90         1647.553    

###########################  Destination: 10.0.102.92  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.102.92 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
569          584.84       1254         16.00        1709.463    

###########################  Destination: 10.0.103.152  ###########################
MIGRATED TCP REQUEST/RESPONSE TEST from 0.0.0.0 (0.0.0.0) port 0 AF_INET to 10.0.103.152 () port 0 AF_INET : spin interval : first burst 0
Minimum      Mean         Maximum      Stddev       Transaction 
Latency      Latency      Latency      Latency      Rate        
Microseconds Microseconds Microseconds Microseconds Tran/s      
                                                                
189          199.61       655          11.86        5006.639 

4.1 東京リージョン(ap-northeast-1)

1回目

from/to apne1-az1 apne1-az2 apne1-az4
apne1-az1 256.24 472.16 1722.98
apne1-az2 797.00 202.75 1755.84
apne1-az4 1604.84 1157.61 258.41

2回目

from/to apne1-az1 apne1-az2 apne1-az4
apne1-az1 83.70 869.11 1813.96
apne1-az2 787.35 202.78 1530.97
apne1-az4 1556.24 1160.79 258.96

4.2 大阪リージョン(ap-northeast-3)

1回目

from/to apne3-az1 apne3-az2 apne3-az3
apne3-az1 48.78 221.27 480.50
apne3-az2 218.82 52.17 456.00
apne3-az3 640.78 600.70 199.24

2回目

from/to apne3-az1 apne3-az2 apne3-az3
apne3-az1 48.79 221.94 482.12
apne3-az2 218.19 51.96 471.03
apne3-az3 606.82 584.84 199.61

5. 考察

測定結果から、全体的に大阪リージョンの方がAZ間のレイテンシが低いことが分かりました。
今回は"測定時間が短い", "測定回数が少ない", "時間帯による変化を見ていない"などの考慮ポイントはありますが、2022年1月に測定した結果と大きく異なっていない(※)ので平均的には今回の測定したようなレイテンシと考えて良いでしょう。
※apne3-az3内のレイテンシが高くなったように見える(50μs程度-->200μs程度)

まとめると、ページ上部に記載したTL; DRの再掲にはなりますが、以下のようなことがわかりました。

  • 東京リージョンを利用する際に2AZの冗長化で良い場合のAZ選定
    「apne1-AZ1, apne1-AZ2」の組み合わせで利用するのが、レイテンシ観点からは良い。
    レイテンシ: 800μs程度
  • 大阪リージョンを利用する際に2AZの冗長化で良い場合のAZ選定
    「apne3-AZ1, apne3-AZ2」の組み合わせで利用するのが、レイテンシ観点からは良い。
    レイテンシ: 200μs程度
  • 東京リージョンの方がAZ間レイテンシが平均的に高い(大阪リージョンと比較して)
  • 大阪リージョンの方がAZ間レイテンシが平均的に低い(東京リージョンと比較して)

6. 終わりに

今回は「AWSのAZ間レイテンシを測定してみた(2023年東京/大阪)」と題して、東京リージョンと大阪リージョン内のAZ間レイテンシを測定してみました。

余談ですが、2022年のre:Inventで発表されたENA Expressは現時点だと同一Subnet内の通信しかサポートしていないので、AZ間レイテンシの改善には繋がりませんが、同一Subnetで大量通信を行うHPC, 機械学習などのワークロードでレイテンシを改善したい方は一度試してみることをおすすめします。
また、ENA ExpressやEFAで利用されているSRD(Scalable Reliable Datagram)というテクノロジがあるのですが、そちらの設計思想などについて記載があるLower the Time-to-Results for Tightly Coupled HPC Applications on the AWS Cloud with the Elastic Fabric AdapterというドキュメントはAWSのインフラ(ネットワーク)に興味がある方にはとても刺さる内容かと思いますので、興味があればDeeplなどの翻訳ツールを駆使して読んでみると面白いと思います。

この記事を読んでくださった方が、AWSやネットワークに興味を少しでも持っていただけると嬉しいです。

ここまで読んでくださってありがとうございました。

Discussion