AI LAB / KEYWORD DICTIONARY

基礎知識

Hallucination(ハルシネーション)とは?

AIが、事実や与えられた情報と異なる内容を、もっともらしく生成してしまう現象です。

仕組みと使いどころ

文章が自然でも、生成された内容が正しいとは限りません。実在しない資料や誤った数値などが、もっともらしい回答に含まれる場合があります。資料を参照する仕組みを組み込んでも、回答の正しさが無条件に保証されるわけではありません。

Hallucinationの活用例

たとえば、こんな場面で

実在しない資料名が回答に含まれていないか、出典を確認する。

使うときのポイント

出典と実際の記載内容を照合します。確認できない点は確認できないまま扱い、重要な判断に使う前に人が内容を確認する手順を設けます。

参考資料

Google Machine Learning Glossary (新しいタブで開きます)

用語の説明や活用例に関連する参考資料です。

READ & LEARN

用語を知ったら、活用を知る。

AI LABで、AIの動向や業務に取り入れるヒントを読む。

記事一覧を見る