01 / UNDERSTAND
仕組みと使いどころ
ウエハースケール・アクセラレーターは、ウエハー規模の大きなチップ上に多数のAIコアを統合する計算装置です。多数のコアをメッシュ状に接続し、分散オンチップメモリと高いオンチップメモリ帯域を利用して、深層学習や大規模言語モデルの計算を並列処理します。代表例にはCerebrasのWafer-Scale Engineがあります。GPUの共有メモリアーキテクチャ向けに最適化された既存のLLM推論システムでは、この構造を十分に活用できない場合があるため、コア配置やメモリ構造に合わせた並列化と演算実装が必要です。
02 / IN PRACTICE
Wafer-Scale Acceleratorの活用例
たとえば、こんな場面で
大規模言語モデルの推論基盤で、多数のオンチップコアに対応した推論システムを用い、行列演算とモデル処理を並列化する用途があります。
03 / GOOD TO KNOW
使うときのポイント
対象モデルと処理が、ウエハースケール固有のコア配置、分散メモリ、メッシュ接続、並列処理方式に対応しているか確認してください。
参考資料
What is an AI accelerator? | IBM （新しいタブで開きます）WaferLLM: Large Language Model Inference at Wafer Scale - Microsoft Research （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。