01 / UNDERSTAND
仕組みと使いどころ
音声認識のSelf-Conditioned CTCでは、中間層にも補助的なCTC損失を設け、その層の予測を次の層の入力へ加える。学習時と推論時の両方で中間予測を利用することで、通常のCTCが置く出力間の条件付き独立性を緩和し、最終予測に先行する内部予測の情報を反映させる。CTCの比較的単純な構成や高速な復号という特徴を保ちやすい一方、効果は中間予測の品質や条件付けの方法に左右される。ここでいう用語は主にCTC音声認識の手法を指し、一般的な自己評価や回答の反復改善と同義ではない。
02 / IN PRACTICE
Self-Conditioningの活用例
たとえば、こんな場面で
多層の音声認識モデルで、中間ブロックから文字やトークンの予測を生成し、その予測を後続ブロックへ加えて最終的な文字起こしを求める構成が考えられる。中間予測を探索で改善したり、前回の推論結果を次回の条件に使ったりする拡張も提案されている。
03 / GOOD TO KNOW
使うときのポイント
採用例を確認するときは、中間予測を作る層、後続層への渡し方、補助CTC損失の有無、学習時だけでなく推論時にも条件付けするかを区別する。
参考資料
Relaxing the Conditional Independence Assumption of CTC-based ASR by Conditioning on Intermediate Predictions （新しいタブで開きます）Better Intermediates Improve CTC Inference （新しいタブで開きます）Google USM: Scaling Automatic Speech Recognition Beyond 100 Languages （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。