AI LAB / KEYWORD DICTIONARY

AI基盤

AI compute(AI計算資源)とは?

AIモデルの開発、学習、推論などの処理に割り当て、消費するCPU、GPU、メモリーなどの計算資源です。

仕組みと使いどころ

コンピュートは、プログラムの実行に必要な処理能力、メモリー、ネットワーク、ストレージなどに関係する総称です。AI computeは、そのうちAIのデータ処理、モデル開発、学習、推論に使用する計算資源を指します。高性能なCPUやGPU、オンプレミスのサーバー、クラウドのコンピュートインスタンス、エッジ機器などを利用できます。大規模なAI処理では、計算装置だけでなく、高速な接続、データ保存、電力、冷却も処理性能や運用効率に影響します。

AI computeの活用例

たとえば、こんな場面で

大規模なモデル学習にはGPUを備えたクラウドのコンピュートインスタンスを使用し、低遅延の推論にはエッジ機器を使用する構成があります。

使うときのポイント

プロセッサー性能だけでなく、メモリー容量、通信速度、保存領域、利用期間を確認し、クラウドと自社設備を含む総費用を比較してください。

参考資料

What is Compute? - Enterprise Cloud Computing Explained - AWS (新しいタブで開きます)What Is AI Infrastructure? (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI computeが登場する記事から、次のヒントを。

新しい順 最新2件

  1. GPU一辺倒を外したGeneral Compute、1億ドル調達で示す「推論クラウド」の勝ち筋

    本文より

    …業が幅広いサービスを提供するハイパースケーラーとは異なり、GPUなどのAI計算資源に重点を置くクラウド事業者を指します。AI需要の急拡大を追い風に成長できる反面、半導体の購入やデータセンター整備に巨額の資金が必要です。借入金で設備を増やす場合、稼働率や販売価格が想定を下回れば返済負担が残り…

    記事を読む

日本語名や別名を含む記事もご紹介しています。