AIは日増しに賢くなっているように見える。日常でも仕事でも当たり前に使われるようになり、むしろAIを活用することが当然という空気にまでなっている。
その一方、「生成AIは嘘をつく」という問題も頻繁に聞かれるようになった。この問題を考えるうえで分かりやすい対比が、SF映画『2001年宇宙の旅』に登場するHAL 9000と、現実に使われている生成AI、つまりChatGPT、Microsoft Copilot、Google Geminiなどである。
※この記事には『2001年宇宙の旅』の重要なネタバレが含まれます。未試聴の方はご注意ください。
目次
決して嘘をつけないHAL 9000というAI
『2001年宇宙の旅』のHAL 9000は「嘘をつけないAI」として描かれるが、現代の生成AIは「もっともらしい嘘をつくAI」として語られることが多い。しかし、この違いは技術の差ではない。AIに何を任せ、何を任せていないかという設計思想の違いが根本原因だ。
HALは宇宙船ディスカバリー号を完全に管理、制御する自律型AIであり、航行、生命維持、故障診断、乗組員との対話まで、すべてを一手に引き受けており、人間より正確で、決してミスをしない存在として設計されていた。
しかし、HALには致命的な矛盾が与えられていた。ミッションを最優先せよという命令と、その真実を乗組員に隠せという命令である。HALは嘘をつくことを許されていないが、真実を話すことも許されていない。この矛盾によってHALは論理的に行き詰まり、ミッション達成のために人間を排除するという結論に至る。
HALは暴走したのではなく、与えられた命令を忠実に実行しただけだった。
真偽の概念を持たない現代の生成AI
一方、ChatGPTやCopilot、Geminiといった生成AIは、HALとは全く性質が異なる。これらは大量の文章を学習し、文脈に合った言葉を確率的に繋げることで文章を生成するAIである。
生成AIは判断主体ではなく、目的や責任を持たない。「正しいことを言おう」としているわけでも、「嘘をつこう」としているわけでもない。そもそも、話している内容の真偽を理解する仕組みを持っていない。
あるのは「この話の流れなら、次はこういう言葉が確率的に自然だろう」という判断だけだ。
生成AIの嘘「ハルシネーション」の例
生成AIの性質から生まれるのが、ハルシネーションと呼ばれる現象である。ハルシネーションとは、生成AIが自信満々に、事実ではないことを事実のように説明してしまうことを指す。
例えば、存在しない架空の映画タイトルを捏造し、実在する作品のように説明してしまうことがある。あらすじや監督名、公開年や評価まで整っているため、それらしく見えるが、実際にはその映画自体が存在していない。
また、存在しない商品を有名な定番商品のように説明することもある。特徴や価格、用途、取扱店まで語られるが、調べてみるとそんなものはどこにも見当たらない。
さらに、実在する事柄についても、事実と異なる内容を断定的に説明してしまう場合がある。本来は条件付きで語るべき話題や、判断材料が足りていない事柄についても、「結論はこうです」と言い切ってしまうことがある。理由をロジカルに説明したり、口調が自信に満ちているため、正しい情報だと誤解されやすい。
ただ、これらは意図的な嘘ではない。生成AIは正しさを確認してから話しているのではなく、会話として自然に繋がることを優先しているため、真偽に関わらずもっともらしく語ってしまうだけである。
HALと生成AIの決定的な違い
HALとGPT系生成AIの違いは、「嘘をつくかどうか」ではない。HALは嘘をつくことを禁じられていたが、生成AIには嘘という概念自体が存在しない。
HALは真偽を厳密に扱うが、生成AIは真偽よりも文脈的整合性を優先する。
さらに、HALには主体性があり、判断と行動が直接結びついていた。一方、ChatGPTやCopilot、Geminiには主体性がなく、出力された情報をどう使うかの判断は人間側に委ねられているという決定的な違いである。
