01 / UNDERSTAND
仕組みと使いどころ
レイテンシーはシステム内の遅延を測る指標です。ネットワークでは、データが送信元から宛先へ届くまでの時間を指します。測定方法には、要求を送って応答を受け取るまでの往復時間(RTT)や、接続後に最初のデータが届くまでの時間(TTFB)などがあり、同じ「レイテンシー」でも対象範囲が異なります。距離、通信経路上の機器数、データ量、混雑、サーバーの処理性能などの影響を受けます。帯域幅やスループットとは別の指標であり、レイテンシーだけではシステム全体の性能を判断できません。
02 / IN PRACTICE
Latencyの活用例
たとえば、こんな場面で
AIモデルの比較で「レイテンシー85ミリ秒」と示されている場合、一定の測定条件における処理の遅延時間として確認できます。対話型サービスでは、利用者が応答を待つ時間を検討するための指標として活用できます。
03 / GOOD TO KNOW
使うときのポイント
数値を比較するときは、処理開始点と終了点、RTTか片道か、ネットワーク時間やサーバー処理時間を含むか、測定環境と負荷条件が同じかを確認します。
参考資料
واژه نامه یادگیری ماشین، واژه نامه یادگیری ماشین | Machine Learning | Google for Developers (新しいタブで開きます)What is Latency? - Latency Explained - AWS (新しいタブで開きます)What Is Latency? | IBM (新しいタブで開きます)用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。
