AI LAB / KEYWORD DICTIONARY

基礎知識

ICI(チップ間相互接続)とは?

ICI(Inter-Chip Interconnect)は、Cloud TPUのチップ間でデータを高速に転送し、複数のTPUチップをスライスとして連携させる相互接続です。

仕組みと使いどころ

ICIは、同じTPU Pod内の複数のTPUチップを接続する高速なチップ間相互接続です。ICIで結ばれたチップ群はスライスを構成し、その物理的な配置は2次元または3次元のトポロジーで表されます。64チップの4×4×4キューブ内では、隣接チップを高速な銅線リンクで接続します。一方、対応するTPU世代で複数のキューブにまたがる場合は、光リンクと光回路スイッチも使用されます。複数のスライスを連携させるMultisliceでは、各スライス内の転送にはICIを使い、スライス間の転送にはデータセンターネットワークを使用します。

ICIの活用例

たとえば、こんな場面で

大規模な機械学習処理で複数のTPUチップを利用する際、ICIで接続されたスライスを選び、チップ間でデータを転送しながら処理を並列化する構成が考えられます。

使うときのポイント

ICIを単に銅線だけの技術と説明せず、TPUの世代、スライスの規模、キューブ内かキューブ間かによって銅線リンクと光リンクが使い分けられる点を確認してください。

参考資料

Arsitektur TPU  |  Google Cloud Documentation (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る