AI LAB / KEYWORD DICTIONARY

生成AI・デコーディング

Beam Search(ビーム探索)とは?

生成途中で複数の候補列を保持し、系列全体の確率が高い出力を探すデコーディング方法。

仕組みと使いどころ

各段階で有力な候補列を複数残し、次のトークンを加えながら低確率の候補を絞り込む。最初の選択が次点でも、その後を含めた確率が高い系列を選べるため、画像説明や音声認識など入力に基づく生成に向く。ただし、最も確率の高い系列を必ず発見できるわけではなく、長い自由生成では反復や似通った候補が生じることがある。

Beam Searchの活用例

たとえば、こんな場面で

音声認識で複数の文字列候補を並行して追跡し、発話全体に対する有力な認識結果を選ぶ用途がある。

使うときのポイント

保持する候補数を二つ以上に設定し、処理量だけでなく反復や候補間の差も実際の出力で確認する。

参考資料

Generation strategies · Hugging Face (新しいタブで開きます)How to generate text: using different decoding methods for language generation with Transformers (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る