01 / UNDERSTAND
仕組みと使いどころ
注意計算を音声全体ではなく個々の区間内に制限する。層を重ねても注意層から参照範囲が区間外へ漏れないため、短い音声での学習と長時間音声での推論との参照範囲のずれを抑えられる。入力特徴そのものを分割する方式とは異なり、畳み込み層などは区間外の文脈も処理できる。一方、区間内に限定するため、全体を直接参照する注意とは性質が異なる。
02 / IN PRACTICE
Chunk-Wise Attentionの活用例
たとえば、こんな場面で
会議や講演など、数分から数時間に及ぶ音声を認識するエンコーダーへの採用を検討する。
03 / GOOD TO KNOW
使うときのポイント
区間の長さによって認識品質と計算量の釣り合いが変わるため、対象音声で両者を確認する。
参考資料
Google USM:Scaling Automatic Speech RecognitionBeyond 100 Languages (新しいタブで開きます)用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。
