生成AIに何かを質問して、堂々とした口調で答えが返ってきたので信じたら、実は全然違う内容だった。こういう経験、ありませんか。
これは「ハルシネーション（幻覚）」と呼ばれる現象で、生成AIを使ううえで知っておいたほうがいいポイントの一つです。今日はこれについて、できるだけかみ砕いて説明します。
なぜAIは「それっぽい嘘」を言ってしまうのか
生成AIは、質問に対して「一番それらしい言葉の並び」を予測して答えを作る仕組みになっています。
ここがポイントで、AIは「正しいかどうか」を確認してから話しているわけではないんです。手元の知識にない質問をされても、「それらしい文章」を組み立てることは得意なので、堂々とした口調で間違った内容を答えてしまうことがあります。
例えば、知らない社内制度について聞かれた時、「そんな制度は知りません」と正直に言うのではなく、いかにもありそうな制度をでっち上げて説明してしまう。これがハルシネーションです。
悪気があるわけじゃない。仕組み上そうなりやすいだけ
誤解しないでいただきたいのは、AIが嘘をつこうとしているわけではない、ということです。
そもそも「知らない」という自覚を持ちにくい仕組みになっているので、結果として嘘っぽい情報が出てきてしまう。人間で言うと、うろ覚えの記憶を自信満々に話してしまうのに近いかもしれません。
特に、以下のような質問では起きやすい傾向があります。
最新の出来事や、AIが学習した時点より後の情報
社内独自のルールなど、AIが元々知らない専門的な情報
細かい数字や固有名詞
じゃあ、どう付き合えばいいのか
「怖いから使わない」ではなく、「起きうるものとして付き合う」のがおすすめです。
❶ 重要な数字や固有名詞が出てきたら、必ず元の資料で確認する
❷ 「この情報の根拠は？」と聞き返す癖をつける
❸ 会社独自の情報を扱わせたい時は、事前に社内資料を読み込ませる仕組み（RAGと呼ばれる技術です）を使うと、根拠のない回答が大きく減る
特に3つ目は、hakadoruでも実際に取り組んでいる分野です。社内資料をもとに答えさせる仕組みを作ることで、ハルシネーションのリスクをぐっと下げることができます。
おわりに
ハルシネーションは、生成AIの弱点というより「そういう性質がある」というだけの話です。過度に怖がる必要はありませんが、大事な判断に使う時は一呼吸置いて確認する。それだけで、だいぶ安心して付き合えるようになると思います🙌