LLMのハルシネーションの話題をどこぞで耳にしまして、それが欠点の一つで活用には気をつけなければならない的なニュアンスでした。では人間はそういうのはないかというと、むしろそれどころではない。書かれてることを読み落とし、書かれてないことを読み取るという誤謬を日常的に行なってしまっているのではないかと。
いま思い出すのは、かつて小論文の添削を受けて痛感した、「書かれていることを書かれている通りに読む」という難しさです。当時は練習問題で赤ペンを入れられることで、わたしがいかに勝手に解釈を補完してしまうかを知ることができました。しかしそういうトレーニングの場でもなければそういう添削はありません。より正確に言えば、ほとんどの場合は誤読に気が付くことすらありません。
LLMの場合、学習済みのデータから確率的に補完するから、時にトンチンカンな出力をすることがあります。でもわたしの場合は経験や社会的な文脈から「そう読むのが自然だ」と確信してしまいます。この確信は時として適応的で有用なものですが、ときとして致命的な誤読を引き起こします。
さらに厄介なのは、周囲も同じような解釈をしているとなおさら気付きにくいことです。さらに集団では共通認識という名の群れとしての誤読にさえ陥っていきます。
自戒として、重要な判断を下す前には「これは事実として書かれていることか、それともわたしの解釈か」と立ち止まって考える習慣をつけたいと思います。また、書かれた文章と自分が読み取ったこととを検証して、思い込みをキャリブレーションする機会も必要でしょう。
こう書いている文章も、読む人それぞれの解釈で異なる意味に受け取られるものがあります。わたし自身も書いている今と、別のときでは別の読み時をするかもしれません。人が文章を読むのは、自分の読解能力以外のコンテキスト────社会的な状況と自分自身の心の状況─────によって変わるからです。
