AI LAB / KEYWORD DICTIONARY

基礎知識

LLM-WER(意味を考慮した単語誤り率)とは?

LLM-WERは、音声認識結果と正解文の差をLLMで確認し、意味と音が同等な表記差を誤りから除外して再計算する単語誤り率です。

仕組みと使いどころ

通常の単語誤り率(WER)は文字列を厳密に比較するため、同じ意味を保つ別表記、借用語の文字体系の違い、口語的な表現なども誤りとして数えることがあります。LLM-WERでは、まず音声認識結果と人手で確認した正解文の不一致箇所を特定し、その箇所について意味が同等か、発音が似ているかをLLMに判定させます。両方が確認された差は誤りに含めず、実質的な誤りだけを基にWERを再計算します。曖昧な場合は同等ではないと判定する方針です。ただし、評価結果には使用するLLMの判断が関与するため、単純な文字列比較だけで完結する指標ではありません。

LLM-WERの活用例

たとえば、こんな場面で

ヒンディー語の正解文で借用語がデーヴァナーガリー文字、認識結果では同じ語がラテン文字で書かれた場合に、意味と音が同等なら、その表記差を誤りとして数えない評価に利用できます。

使うときのポイント

適用時は、正解文と認識結果の不一致が意味だけでなく発音面でも同等と判定された場合に限り、誤りから除外される点を確認します。

参考資料

GitHub - sarvamai/llm_wer (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る