AI LAB / KEYWORD DICTIONARY

AIインフラ

AI cluster(AIクラスター)とは?

複数の計算ノードを高速ネットワークで連携させ、AIの学習や推論を並列に処理する計算基盤です。

仕組みと使いどころ

各ノードがCPU、GPU、メモリーなどを持ち、調整役や負荷分散の仕組みを通じて一つの計算環境のように動作します。大量のデータを扱うAIモデルの学習、推論、微調整などを複数ノードへ拡張できます。一方、ノード間通信の帯域や遅延、障害は処理性能に影響し、障害時にはチェックポイントからの再開が必要になる場合があります。

AI clusterの活用例

たとえば、こんな場面で

複数のGPUサーバーを接続し、大規模モデルの学習処理をノード間で分担させる構成が考えられます。

使うときのポイント

GPU数だけでなく、ノード間ネットワーク、ストレージ、障害時の処理を含め、対象ワークロードで性能を確認します。

参考資料

What is Cluster Computing? Cluster Computing Explained - AWS (新しいタブで開きます)IBM Cloud cluster network for NVIDIA (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る