01 / UNDERSTAND
仕組みと使いどころ
出典のメタデータを抽出し、文献やウェブ上の情報を検索して、得られた根拠と主張の対応関係を判定します。複雑な主張を検証しやすい形に正規化してから、根拠検索と引用分類を行う方式も提案されています。生成AIは架空の文献やURL、誤った事実をもっともらしく出力する場合があるため、自動検証だけで正しさが保証されるわけではありません。影響の大きい内容では人による確認が必要です。
02 / IN PRACTICE
AI-based source verificationの活用例
たとえば、こんな場面で
AIが作成した文章について、記載された論文が実在するかを検索し、取得した論文の内容が文章中の主張を支えているかを判定します。
03 / GOOD TO KNOW
使うときのポイント
出典が実在するかという確認と、出典内容が主張を裏づけるかという確認を分け、重要な内容では人が参照先の本文を直接確認します。
参考資料
What Are AI Hallucinations? | IBM （新しいタブで開きます）Understanding before verifying: Claim normalization for automated citation verification （新しいタブで開きます）CiteAudit: You Cited It, But Did You Read It? A Benchmark for Verifying Scientific References in the LLM Era （新しいタブで開きます）用語の説明や活用例に関連する参考資料です。
READ & LEARN
記事一覧を見る 用語を知ったら、活用を知る。
AI LABで、AIの動向や業務に取り入れるヒントを読む。