AI LAB / KEYWORD DICTIONARY

AIフレームワーク・バックエンド拡張

PyTorch PrivateUse1(PrivateUse1ディスパッチキー)とは?

PrivateUse1 Dispatch Key

PyTorchのリポジトリ外にある新しいデバイス用バックエンドを統合するために用意された予約済みディスパッチキーです。

仕組みと使いどころ

PrivateUse1は、PyTorch本体のリポジトリ外で開発されるバックエンドを統合するための仕組みです。バックエンドはPrivateUse1を使って演算カーネルやCPUへのフォールバックをディスパッチャーへ登録できます。必要に応じてAutogradPrivateUse1による自動微分、AutocastPrivateUse1による自動混合精度、乱数生成器、デバイスガード、バックエンド固有メタデータの直列化と逆直列化も登録できます。利用者向けにはPrivateUse1をバックエンド固有のデバイス名へ変更し、Tensor、nn、Storageに対応するメソッドやプロパティを生成できます。一方、PrivateUse1を使って多数の外部バックエンドを同時に統合することはできません。

PyTorch PrivateUse1の活用例

たとえば、こんな場面で

新しいAIアクセラレーター向けのadd演算をPrivateUse1へ登録し、未対応の演算はCPUで実行するフォールバックを設定できます。

使うときのポイント

対応演算に加え、自動微分、混合精度、乱数生成、デバイス管理、直列化など、利用に必要な機能がバックエンド側で登録されているか確認します。

参考資料

Facilitating New Backend Integration by PrivateUse1 — PyTorch Tutorials 2.15.0+cu132 documentation (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る