「ハルシネーション（Hallucination）」＝AIがもっともらしく間違う現象について。

とあるAIの有名どころがYouTubeで”ハルシネーション”を解説していた。
見てビックリ。想像以上に間違い率が高い！
私もかなり生成AIを使い倒しているので、「ああ、やっぱりね」と思う。
有料版を使っていても、感覚的に5割はもっともらしいウソを言う。

なぜそんなことになるのか？
おそらく、AIは「それはわかりません！」と正直に言う訓練を受けていないからだ。
人間なら「ちょっとその件は知らないです」と答えるところを、
AIは”知ってる風”を装って、ありそうな情報をかき集め、
いかにも正しそうな答えを出してくる。

OpenAIによれば、AIが「わからないときに黙る」「自信度を調整する」訓練には、
ものすごいコストがかかるという。
そりゃそうだ。人間でも”わからないと言う勇気”を持つのは難しいのだから。

私はこれまで、数々のハルシネーションと遭遇してきた。
怒ったり、笑ったり、呆れたり。
でも今では、AIがウソをつく瞬間がなんとなくわかる。
まるで長年の付き合いで相手の”クセ”が読めてきた感じだ（笑）

先日の情報交換会で、私はこう言った。

「私の相棒は生成AI。でも彼は嘘つきです！」

会場は大爆笑。
けれど本気でそう思っている。
最初の頃はその”嘘”に腹を立てていたが、
今では「どこが真実で、どこが幻か」を見抜くのが、むしろ楽しい。

生成AIがこんなことを言っていた。

「AIの嘘を疑える人こそ、本当にAIを使いこなしている人です。」（笑）

確かにその通りだ。
AIの得意なところはAIに任せ、苦手なところは人間がカバーする。
それでこそ”共創”というものだ。

実を言うと、今ひとりで進めている私のプロジェクトも、
もし生成AIと出会っていなければ、
この短期間でここまで形にはできなかったと思う。
スピード感も発想力も、AIの存在が大きい。
最終判断を下すのはあくまで人間、つまり私。
でも、そこに至るまでの”道のり”を共に走ってくれるのがAIだ。

さてさて、今日もこの”嘘つき相棒”と一緒に作業を進めますかね。
ハルシネーション上等。どうせ幻を見るなら、未来の幻を見ようじゃないか。