「地域のお祭りはいつですか」とAIに聞くと、開催日や会場を添えた答えが返ってきます。文章は読みやすく、口調も丁寧です。それでも、主催者の案内と見比べたら日付が違うかもしれません。答えが曖昧なら確認しようと思えるのに、はっきり書かれているとかえって迷います。なぜ、間違っている内容まで確かな情報のように見えるのでしょうか。

一言で答えると、AIが自然な文章を作れることと、その内容が事実に合っていることは別だからです。生成AI、つまり文章や画像などを作るAIが、現実の事実について、もっともらしくても誤った内容を生成することを「ハルシネーション」と呼びます。Googleの公式用語集でも、この意味で説明されています。（出典: Google for Developers）

ここでいう「自信があるように見える」は、読む人が文章から受ける印象です。AIに人間と同じ自信や意図があると考える必要はありません。「開催日は○月○日です」という文末は断定的に見えますが、それだけでは、主催者の資料で確認された日付かどうかまでは分からないでしょう。



この違いを知ると、回答を読むときの着眼点が変わります。文章が整っているかだけでなく、「この日付は何を根拠にしているのか」と考えられるようになります。AIの回答をすべて疑って使うのをやめる必要も、すべて信じて受け入れる必要もありません。文章の出来栄えと、確かめるべき事実を分けて扱うことが、使い始めの一歩になります。

仕組みをつかむために、穴埋め作文を想像してみてください。「地域のお祭りは、毎年＿＿に開かれます」という文があったとします。前後に屋台や花火の話があれば、「夏」という言葉は自然につながります。しかし、その地域のお祭りが本当に夏に開かれるかどうかは、文章のつながりだけでは確かめられません。冬のお祭りであっても、作文としては滑らかに読めてしまいます。

これは文章生成の一面を説明するためのたとえです。Googleの公式用語集では、自己回帰型と呼ばれる言語モデルについて、それまでの出力に基づいて次の言葉の単位を予測すると説明されています。モデルとは、データを使った学習で作られる、回答生成などの土台となる仕組みです。こうした説明から、文章を続けて作る処理と、外部の案内を照合する作業は区別して考える必要があります。（出典: Google for Developers）



たとえば、「会場は中央公園です。雨天の場合は翌日に延期します」という案内文は、文章として違和感がありません。ところが、会場も雨天時の対応も、主催者が実際に決める事柄です。よくある案内の形に合っていても、そのイベントの情報として正しいとは限らないのです。

穴埋めのたとえは、AIが単純な作文しかできないという意味ではありません。ここで押さえたいのは、読みやすさから事実性を判断できないという一点です。回答が詳しくなるほど安心したくなりますが、詳しい日付や会場名が増えれば、照合する対象も増えます。「説明が具体的だから正しい」と考える前に、その具体性を支える資料があるかを見てみましょう。

「たくさんの情報を学習しているなら、正しい日付も分かるのでは」と感じるかもしれません。その疑問を整理するには、「学習」と「回答を作ること」を分けると理解しやすくなります。学習は、データに含まれるパターンや関係をモデルに反映させる過程です。IBMの公式解説では、生成モデルは学習データの特徴を表したものをもとに、新しい内容を作ると説明されています。（出典: IBM）

これに対して、質問に応じて文章を出すのは、作られたモデルを使う段階です。学習によって文章を作る土台ができていても、質問のたびにイベント主催者の最新案内を開き、開催日を照合したことにはなりません。「学習している」と「今この資料を確認している」は、異なる説明なのです。



架空の例として、昨年は秋に開催された催しを考えてみましょう。今年の開催日が変更されていれば、昨年の案内が正確でも、今年の予定を決める根拠にはできません。また、地域名や催しの正式名称が不明な質問では、どの案内を確かめるべきかも定まりません。こうした場面では、文章を補ってもらう前に、確認対象を絞る必要があります。

外部の資料を回答に利用する方法もあり、IBMは学習データの外にある関連情報を使う方法を紹介しています。ただし、利用中のAIがどの資料を参照したかは、個々の回答で確認する必要があるでしょう。（出典: IBM）

初心者の段階で、学習方法の名前をすべて覚える必要はありません。「この答えは、何の情報をもとに作られたのか」という問いを持てれば十分です。資料が提示されていない回答は、少なくとも自分が根拠を確認できていない回答として扱えます。

ここからは説明用の架空の例です。実在するイベントや、実際に操作して得た回答ではありません。「青葉川まつりの開催日はいつですか」と尋ねたところ、AIが「今年は10月12日に中央公園で開催されます」と答えた場面を考えます。主催者の正式な案内では10月19日、市民広場での開催になっている、という設定です。

この回答は、質問への返事としてよくまとまっています。開催日と会場が一文で分かるため、そのまま予定表に入れたくなるでしょう。しかし、自然な文であることは、二つの情報が正しいことを保証しません。この例では、日付と会場をそれぞれ確かめる必要があります。回答全体を「正しい・間違い」の二択で眺めるより、確認できる事柄に分けるほうが、照合する場所が明確になります。



たとえば、回答の後半に「ご家族で楽しめる催しです」と書かれていても、それは開催日とは別の話です。柔らかな紹介文に納得した勢いで、日時まで確かだと受け取らないようにしましょう。参加するために必要なのは、紹介文の印象よりも、自分が行く年の開催日、会場、変更案内の有無です。

仕事でも同じ見方を使えます。これは応用の提案ですが、社内向けに地域イベントの案内を作るなら、AIの回答をそのまま転記する前に、日時と会場を主催者の資料で確認するとよいでしょう。確認が終わった情報を文章にまとめる作業と、まだ分からない情報を調べる作業を分けるのです。

この例で問題になるのは、誤った文章が出たことだけではありません。未確認の情報が、予定表や配布文といった次の行動に移ることです。回答を受け取った直後に照合する箇所を見つけられれば、その段階で立ち止まれます。

不安な回答に対して、「本当に正しいですか」と聞き直したくなるのは自然です。ただ、その質問への返事も、確認対象となる文章です。「間違いありません」と返ってきたとしても、それだけで主催者の案内と一致したことにはなりません。聞き直すなら、断定の強さを求めるより、確認に使った資料や、その資料のどの記載を根拠にしたのかを尋ねるほうが、次の作業につながります。

「詳しく説明してもらえれば安心」という考えにも注意が必要です。詳しい回答には、日時、会場、受付方法など、複数の事実が含まれます。それぞれが資料で裏づけられているかは、文章の長さだけでは判断できません。丁寧な口調、長い説明、はっきりした断定は、いずれも読む際の印象であり、出典の代わりにはならないのです。



また、創作とハルシネーションは区別して考えましょう。「架空のお祭りの紹介文を作ってください」と頼んで、実在しない催しが描かれることは、依頼の目的に沿っています。問題になるのは、現実の催しを尋ねたのに、事実と異なる内容が現実の情報として示される場合です。何のために作る文章なのかによって、求める正しさも変わります。

実務への提案としては、依頼するときに「文章の案がほしい」のか、「実際の開催日を知りたい」のかを分ける方法があります。前者なら表現の候補を検討し、後者なら根拠となる案内を確認します。どちらも一つの会話で頼めますが、利用者側で目的を分けておくと、見直す基準を持てるでしょう。うまい文章ができたことと、調査が終わったことを同じ出来事として扱わないのが要点です。

すべての文章を同じ細かさで確認しようとすると、どこから手を付けるべきか迷います。そこで、実行の提案として、自分や相手の行動を変える情報から確認してみてください。イベントなら開催日や会場が該当します。案内文の言い回しを直す前に、間違っていたら別の日や場所へ行ってしまう情報を確かめる、という順番です。



確認には、次のような流れを使えます。特定のAI製品の操作方法ではなく、回答を読むための手順の提案です。

1. 回答から、開催年、日付、会場など、照合できる情報を取り出します。
2. 主催者や自治体の正式な案内を開き、同じ名称・同じ年の催しかを確認します。
3. 案内の公開日や更新日と、本文にある開催日を区別して読みます。
4. 記載が食い違う場合は、変更のお知らせを探し、分からなければ主催者へ確認します。

AIへの依頼文も工夫できます。プロンプトとは、AIに渡す質問や指示のことです。以下は、手元に案内文がある場合のプロンプト例です。「次の案内文に書かれている開催日と会場を抜き出してください。書かれていない項目は『記載なし』としてください。推測で補わないでください」と頼めます。ただし、こう書けば誤りがなくなるという保証ではありません。抜き出された情報も、元の案内文と見比べる前提です。

なお、資料を取得した日は、その情報が発表された日や、イベントが開かれる日とは異なります。最近見つけたページでも、過去の催しの案内かもしれません。「いつ確認したか」と「いつの話か」を分けて読むことも、照合の一部になります。

次にAIから日付の入った答えを受け取ったら、その一か所だけでも公式案内と見比べてみてください。確認が取れたら予定に使い、取れなければ未確認のまま保留します。文章の印象に頼る代わりに、根拠を一つ確かめる。その小さな習慣が、回答をどう扱うかの判断につながります。

- What Is Artificial Intelligence (AI)? | IBM
- Machine Learning Glossary: Generative AI | Google for Developers