AI LAB / KEYWORD DICTIONARY

基礎知識

AI Factory(AI工場)とは?

AI Factory(AI工場)は、データの取り込みからモデルの学習、調整、大規模推論までを統合し、AIの出力を継続的に生み出すための計算基盤です。

仕組みと使いどころ

NVIDIAはAI Factoryを、データからトークン、予測、画像などの「知能」に相当する出力を大規模に生成する計算インフラとして説明しています。エネルギー、半導体、ネットワークやストレージを含む基盤、AIモデル、アプリケーションなどを統合し、データ取り込み、学習、追加学習・微調整、推論というAIライフサイクルを支えます。形態はオンプレミスのデータセンターに限らず、AI専用クラウドやハイブリッド環境、通信基盤も含み得ます。一方、処理量、応答速度、コスト、電力効率にはトレードオフがあり、AI Factoryという構成だけで個別用途の成果が保証されるわけではありません。

AI Factoryの活用例

たとえば、こんな場面で

企業が生成AIを継続運用する際に、データ処理、モデルの学習・微調整、利用者向け推論を一体的に扱う基盤として構築することが考えられます。用途の候補には、不正検知、顧客対応、創薬支援、通信網の最適化などがあります。

使うときのポイント

検討時は、名称だけで判断せず、対象となるAIライフサイクル、必要な処理量と応答速度、電力効率、構成要素、クラウド・オンプレミスなどの運用形態を確認します。

参考資料

NVIDIA: What is an AI Factory? (新しいタブで開きます)Data Center Solutions: AI Factories | NVIDIA (新しいタブで開きます)How AI Factories Generate Revenue: A Guide to Optimized Inference Economics (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る