AI LAB / KEYWORD DICTIONARY

基礎知識

GPU server(GPUサーバー)とは?

GPUサーバーは、1基以上のGPUを搭載し、AIモデルの学習・推論や科学計算など、大規模な並列処理を必要とする計算負荷の高い処理に対応するサーバーです。

仕組みと使いどころ

GPUサーバーは、GPUの並列処理能力を利用して、AI、データ分析、科学シミュレーション、高性能計算、レンダリングなどを実行します。1台を単独で使うほか、複数のGPUやサーバーを接続した構成も可能です。対応するGPUでは、資源を分割または仮想化し、複数の処理や仮想マシンで共有できる場合があります。一方、必要なGPU数、CPU、メモリ、ストレージ、ネットワーク、設置環境は、モデルやデータセット、用途によって異なります。GPUを搭載するだけで、あらゆる処理の性能向上が保証されるわけではありません。

GPU serverの活用例

たとえば、こんな場面で

社内でAIモデルの学習や推論を行う際に、対象モデルとデータ量に応じてGPUサーバーを導入する方法があります。処理規模が1台の範囲を超える場合は、高速ネットワークで複数台を接続する構成も検討できます。

使うときのポイント

選定時は、対象処理の規模、対応GPU、GPUメモリ、CPUとPCIeの構成、システムメモリ、ストレージ、ネットワーク、冷却条件を確認し、具体的な要件を提供元と照合します。

参考資料

GPU servers | IBM Fusion HCI 2.11.x (新しいタブで開きます)NVIDIA-Certified Systems Configuration Guide — NVIDIA Certification Programs Documentation (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る