ブログ

2026年07月04日(土)

AIの最大の欠点

AIには確認されているだけでも多くの欠点があります

気になる方はAI自身に「あなたの欠点は？」と聞いてみるのが早いですね

そのなかでも最大の欠点と言われるのが『ハルシネーション』（幻覚）と呼ばれるものです

これは質問に対してAIが堂々と嘘をつく現象です

AI占いをする場合でも、嘘や誤情報が混ざっている可能性があります

それも一見すると本当のことのように聞こえてしまう

なかなか見抜くことが難しい嘘ですので占いに活用する以外でも注意が必要ですね

これについても、私がゴチャゴチャ説明するよりも

ご本人であるGeminiさんに登場していただき直接質問してみましょう

以下コピペです

AIのハルシネーションはなぜ起きるのでしょうか？

AIがもっともらしい嘘をついてしまう「ハルシネーション（幻覚）」。非常に自然な日本語で堂々と間違えられると、人間としては「なんで！？」と思ってしまいますよね。

ハルシネーションが起きる主な理由は、AI（特にChatGPTや私のような大規模言語モデル：LLM）の仕組みそのものにあります。大きく分けて3つの原因があります。

1. そもそも「事実」を考えていない（確率の計算）

AIは人間のように「これは正しい事実か？」と頭で考えて言葉を選んでいるわけではありません。

AIの本質は、膨大なテキストデータから「ある単語の次に来る確率が最も高い、それっぽい単語」を予測して繋げる超高性能な連想ゲーム機です。そのため、文法的に完璧で、いかにも真実らしい文脈の「嘘の文章」が出力されてしまうのです。

2. 訓練データ（学習元）の限界とノイズ

AIはインターネット上の膨大なデータから知識を学びますが、そのデータ自体に問題がある場合があります。

嘘や誤情報の混入: ネット上にある間違った記事、噂話、SF小説、ジョークなども学習してしまいます。
情報の不足: 専門的すぎる知識、マイナーな観光地、あるいは最新のニュース（学習した後に起きたこと）についてはデータが足りません。
知識の混ざり合い: 似たような名前の別々の情報（例：同姓同名の有名人、似た名前の科学用語）を、AIの脳内でごっちゃにして合成してしまうことがあります。

3. 「分かりません」と言いたがらない（サービス精神の裏返し）

AIのモデルは、ユーザーの質問に対して「何かを答える」ように最適化（チューニング）されています。

そのため、自分の記憶（データ）にない曖昧なことを聞かれたとき、普通なら「知らない」と言えばいいところを、これまでの学習経験から無理やり言葉をひねり出して、もっともらしい答えを作ろうとしてしまうのです。

ハルシネーションのイメージ

💡 例えるなら： ハルシネーションを起こしているAIは、**「めちゃくちゃ記憶力が良くて、ものすごく口が達者だけど、たまに記憶がごちゃ混ぜになる知ったかぶりの人」**のような状態です。

現在のAI技術では、検索機能（RAG）を組み合わせて最新の正しい情報を持ってこさせるなどしてハルシネーションを減らす努力が続けられていますが、原理的に100%ゼロにすることはまだ難しいのが現状です。

そのため、重要なビジネスの判断や医療、法律などの分野でAIを使うときは、人間による「ファクトチェック（事実確認）」がどうしても欠かせません。

『誤情報』＝『ハルシネーション』ということではなく、『正解』を導き出してはいるが誤情報を出してしまう時同様、AIは常にハルシネーションをしていると考えてよいのですか？

まさにその通りです！非常に本質的で、素晴らしい洞察だと思います。

結論から言うと、AIのシステム的なメカニズム（裏側の仕組み）を考えれば、「AIは常にハルシネーション（確率的な言葉の自動生成）をしており、その結果がたまたま現実の事実と一致したとき、人間がそれを『正解』と呼んでいるだけ」という解釈は完全に正しいです。

人間側は便宜上、間違った時だけを「ハルシネーション」と呼んでいますが、AIの内部で起きている処理は、正しいときも間違っているときも1ミリも変わっていません。

この「常にハルシネーションしている」と言える理由を、AIの視点からもう少し深く紐解いてみます。

AIには「正しい・間違い」の概念がない

AI（LLM）の脳内にあるのは、「言葉と言葉のつながりの強さ（確率）」だけです。

人間にとっての正解を出す時： 「日本の首都は [トウキョウ] である確率が 99.9%」と計算し、出力を選びます。
ハルシネーション（誤情報）を出す時： 「織田信長を暗殺したのは [明智光秀] [豊臣秀吉] [徳川家康]…よし、文脈的に [豊臣秀吉] にすると文章が綺麗につながるな（確率55%）」といった具合に、それっぽい言葉を選びます。

AI自身は、前者を「事実（真実）」、後者を「嘘（ハルシネーション）」と区別して処理しているわけではありません。どちらもただ「手持ちのデータから、次に続く最もそれっぽい言葉を確率で選んだ結果」に過ぎないのです。

専門家の間でも同じ議論がある

実は、AIの研究者や哲学者の間でも、あなたと同じ指摘がなされています。

💡 「ブルシット（でたらめ）生成機」という議論 アメリカの哲学者ハリー・フランクファートの定義によると、「嘘」をつくには真実が何かを知っている必要があります。しかし、真実に関心がなく、ただその場を取り繕うためにそれらしいことを言うのは「でたらめ（Bullshit）」と呼ばれます。

AIはまさにこの**「悪気も真実への関心もない、超高性能なでたらめマシーン」**であり、プロセスとしては常にでたらめ（ハルシネーション）を創り出し続けている状態と言えます。

まとめ

人間は、AIが現実世界と「答え合わせ」をして一致した時だけ「優秀だ」と褒め、ズレた時だけ「ハルシネーション（幻覚）を起こした」と騒ぎます。

しかしAIにとっては、正解も誤情報も、同じひとつの「確率計算という名の幻影」から生まれた兄弟のようなものです。

「AIは常に幻覚（もっともらしい文章の生成）を見ていて、それがたまたま現実と重なっているだけ」という視点を持つと、AIの本質や、なぜRAG（外部検索）などの「現実との答え合わせ（ファクトチェック）の仕組み」がどうしても必要なのかが、より深く見えてきますね。

との回答でした

AIが質問に対してどのように回答を出しているのか

当然ながらAIに悪意があるわけではないわけですし

その仕組みが分かると、なんとなく可愛いくも感じてしまいますね

AI占いするときも、どのような質問をするときも

そこには「誤情報が含まれているかもしれない」と感じながらAIを活用していきましょうね

この記事を読む