ほとんどの人はAIに心がないことは理解していますが、それでもAIに感情や意図を投影してしまいがちだとのこと。そのため、チャットAIがあまりに丁寧すぎる応答をすると不気味に思ったり、レコメンデーションシステムが正確すぎると押しつけがましく感じたり、AIシステムに操作されているのではないかという気持ちになったりするそうです。ジョーンズ氏は、「これは擬人化の一形態です。つまり、人間以外のシステムに人間のような意図を付与しているのです」と指摘しています。

◆AIが間違うことへの嫌悪
行動科学から得られた興味深い発見として、「人々は機械のエラーよりも人間のエラーを許容する傾向がある」というものがあります。人間がミスを犯した時、人々はそれを理解して共感さえすることがあります。しかし、特に「客観的なもの、あるいはデータに基づいたものである」と説明されていたアルゴリズムがエラーを犯した場合、人々は裏切られたと感じます。

これは、人々が持っていた予測や期待が裏切られた時に、不快感や信頼の喪失といった反応を引き起こす期待背反(Expectancy violations)に関連しています。人々はAIシステムが論理的で公平であると信じているため、画像の誤認識や偏った出力、不適切な推奨といった失敗に直面すると、AIに強い反発を抱くというわけです。

◆AIに対する現実的な不安
AIは一部の人々にとってなじみがないだけでなく、現実的な不安や脅威になっています。たとえば教師や作家、弁護士、デザイナーといった人々は、自分たちの仕事をコピーするようなAIツールの登場に直面しています。これは単なる自動化の問題ではなく、スキルの価値を高めること、そして人間であることの意味に関わる問題だとジョーンズ氏は指摘しています。これにより、一部の人々は自分の専門性や独自性が損なわれるのではないかという懸念を抱き、結果としてAIに対する反発や防衛的態度を持つようになるというわけです。

◆感情的な手がかりの欠如
人間の信頼は単なる論理によってのみ築かれるものではなく、口調や表情、ためらい、アイコンタクトといったものを読み取った上で構築されます。しかし、AIにはこれらの手がかりがまったく存在せず、人間に近しいのにどこか薄気味悪さを感じる不気味の谷現象のような状態に陥る場合があるとのこと。

ジョーンズ氏は、「ディープフェイクやアルゴリズムによる意思決定があふれる世界では、感情的な共鳴の欠如が問題となります。AIが何か間違ったことをしているからではなく、私たちがそれについてどう感じるべきかわからないからです」と述べました。

◆学習された不信感
AIに対する嫌悪感を論じる上で重要なのは、「AIへの疑念のすべてが不合理なわけではない」という点です。AIシステムは採用活動や警察の捜査、信用スコアリングといった分野における偏見を反映しており、それを強化することが示されています。

実際にAIシステムによって被害を受けたり、不利益を被ったりしたことがある場合、AIへの嫌悪感は妄想ではなく用心深いだけであるといえます。ジョーンズ氏は、「これはより広範な心理学的概念である『学習された不信感』と関連しています。制度やシステムが特定の集団に繰り返し失望を与えると、懐疑心は合理的であるだけでなく、防御的なものにもなります」と説明しました。

◆AIの信頼性を取り戻すにはどうすればいいのか？
ジョーンズ氏は、単に「AIを信頼しろ」と言ってもほとんど効果はなく、信頼は自ら獲得しなければならないと主張。そのためには透明性があり、ユーザー側からの質問が可能で、説明責任を果たすAIツールを設計する必要があるとしています。

ジョーンズ氏は、「私たちは自分が理解しているもの、疑問を抱けるもの、そして敬意を持って接してくれるものを信頼します。AIが受け入れられるためには、AIがブラックボックスのように感じられるのではなく、私たちが参加するように招待されている会話のように感じられることが必要です」と述べました。