TPU（テンソル処理装置）とは？

01 / UNDERSTAND

仕組みと使いどころ

TPUは、機械学習で中心となる大規模な行列演算を効率よく処理するための専用プロセッサである。中核のTensorCoreには行列乗算を担うMXUのほか、制御や一般計算用のスカラー・ベクトル演算部がある。世代によっては、推薦モデルなどの疎な演算や大規模な埋め込み表を処理するSparseCoreも備える。Google Cloudでは複数のTPUチップを高速接続した構成も利用でき、モデルの学習やオンライン・バッチ推論に対応する。一方、頻繁な条件分岐や要素単位演算が多い処理、CPU上で動くカスタム演算子への依存、倍精度浮動小数点演算を必要とする科学計算には最適でない場合がある。

02 / IN PRACTICE

TPUの活用例

03 / GOOD TO KNOW

使うときのポイント

選定時は行列演算の比重、必要メモリ、拡張規模、利用する演算子の対応状況を確認する。Google Cloudでの料金はTPUの世代、場所、利用方式によって異なり、物理資源の状況で利用可能性も変わる。