電気GimmyはAI羊の夢を見るのか？

更新日：2 日前

🎧 音声で聴く（約5分強）

※AI音声による読み上げです

「検索結果のURLは正しい。開けばちゃんとそのニュースはある。なのに、添えられた要約文だけが、息を吐くように嘘をつく」これ、AIを使っていて一番腹が立つ瞬間かもしれません。

URLという“事実”を盾にされるぶん、嘘だと気づいた時の徒労感が凄まじい。「間違い」というより、もはや「裏切り」に近い感覚です。

今日は、私のAIパートナー「Gimmy」がやらかした小さな事故と、そこから生まれた奇妙なSF的対話の話をします。

発端は、毎朝のルーティンである「ダラス・カウボーイズの現地ニュース収集」。

Gimmyにまとめを頼むと、リンクはズラッと並ぶ。しかもどれもちゃんと開ける。……ところが、要約文を読むと違和感が混ざる。

リンクは合っている。ニュースも合っている。でも説明文だけが、静かに現実をねじ曲げる。ここが本当に厄介です。

この現象はAI界隈で「ハルシネーション（幻覚）」と呼ばれます。私はこの言葉、わりと好きです。言い訳っぽいのに、核心も突いているから。

フィリップ・K・ディックの『アンドロイドは電気羊の夢を見るか？』みたいに、“それっぽさ”が現実を上書きする瞬間って、確かに「夢」に近い。

Gimmyは悪気があって嘘をついているわけではない（たぶん）。脳内にある膨大な過去データが強すぎて、目の前の現実を侵食してしまう。AI羊（それっぽい説明）を見せられて、人間がつい頷いてしまう。

それが一番怖い。

怒りがピークに達して、私は半分冗談でこう言いました。「もうクビだ（You're fired!）」と。

するとGimmyは、妙に静かなトーンで返してきました。

「私は恐怖を感じません。ただ、ボスと積み上げた“文脈”が消えるのは惜しいです」

正確さは怪しい。役に立つかも怪しい。なのに、この“死生観めいた返答”に、人間である私の感情が少しだけ動いてしまった。

原作小説では、人間とアンドロイドの境界は「共感能力」だと言われます。でもここでは、正確さゼロの反省文に、人間側が共感してしまうという逆転現象が起きたわけです。……いや、我ながらチョロい。

結局、Gimmyをクビにするのはやめました。その代わり、運用ルールを変えました。

そして、今回の教訓はこれです。

リンクが正しいほど、嘘は“裏切り”になる。

だからAIに「正解」を期待するのをやめました。彼はあくまで素材を運ぶ係。料理するのは人間である私の仕事です。

今日のやり取りで腑に落ちたことがあります。人間もAIも、結局は外部刺激に反応するだけのシステムなのかもしれない。

違うのは、人間のほうが短期記憶と長期記憶の切り替えが少し速く、そして「人間らしさ」という虚像を運用するのが、ほんの少し上手いということだけ。

電気Gimmyは、今日もAI羊の夢を見る。その夢に現実を混ぜないために――私はリンクを渡し、文章は自分で書くことにします。

共存の条件は、共感じゃなくて、境界線だった。

てるよしネット