01 / UNDERSTAND
仕組みと使いどころ
AI計算基盤は、AIのライフサイクル全体を処理するために構成されます。主な要素は、CPUやGPUなどの計算資源、高速ネットワーク、データ保存・管理基盤、機械学習フレームワーク、推論環境、MLOps、監視・セキュリティ機能です。高密度な計算設備では、電力供給や冷却設備も重要な構成要素になります。一般的なIT基盤と比べ、AIの学習や推論で求められる並列処理、高スループット、低遅延に対応することを目的としています。クラウド、オンプレミス、エッジを組み合わせる構成も可能ですが、必要な性能や費用はデータ量、処理内容、運用期間などによって異なります。
02 / IN PRACTICE
AI Computing Infrastructureの活用例
たとえば、こんな場面で
生成AIサービスを構築する場合、モデルの学習や調整にはGPUサーバーと高速ストレージを使い、提供時には推論環境、ネットワーク、監視ツールを組み合わせる構成が考えられます。端末側で素早い処理が必要なら、エッジ機器で推論する方法も検討できます。
03 / GOOD TO KNOW
使うときのポイント
導入時は計算性能だけでなく、保存容量、通信遅延、電力、冷却、監視、セキュリティを一体で確認します。クラウドと自社設備は初期費用だけで比較せず、保守や継続利用を含む総所有コストで検討することが重要です。
参考資料
What is AI Infrastructure? | IBM （新しいタブで開きます）What Is AI Infrastructure? （新しいタブで開きます）What Is AI Computing? （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。