AI LAB / KEYWORD DICTIONARY

基礎知識

Latency(レイテンシー)とは?

レイテンシーとは、処理や通信を開始してから結果が得られるまでの遅延時間です。一般にミリ秒などで表し、値が小さいほど応答が速いことを示します。

仕組みと使いどころ

レイテンシーはシステム内の遅延を測る指標です。ネットワークでは、データが送信元から宛先へ届くまでの時間を指します。測定方法には、要求を送って応答を受け取るまでの往復時間(RTT)や、接続後に最初のデータが届くまでの時間(TTFB)などがあり、同じ「レイテンシー」でも対象範囲が異なります。距離、通信経路上の機器数、データ量、混雑、サーバーの処理性能などの影響を受けます。帯域幅やスループットとは別の指標であり、レイテンシーだけではシステム全体の性能を判断できません。

Latencyの活用例

たとえば、こんな場面で

AIモデルの比較で「レイテンシー85ミリ秒」と示されている場合、一定の測定条件における処理の遅延時間として確認できます。対話型サービスでは、利用者が応答を待つ時間を検討するための指標として活用できます。

使うときのポイント

数値を比較するときは、処理開始点と終了点、RTTか片道か、ネットワーク時間やサーバー処理時間を含むか、測定環境と負荷条件が同じかを確認します。

参考資料

واژه نامه یادگیری ماشین، واژه نامه یادگیری ماشین  |  Machine Learning  |  Google for Developers (新しいタブで開きます)What is Latency? - Latency Explained - AWS (新しいタブで開きます)What Is Latency? | IBM (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る