ＡＩこと人工知能が発達してきました。
私は専門家ではないので詳しい仕組みなどを解説する力はないですが、簡単に説明してみましょう。
ＡＩは膨大なデータを学習材料とし、ニューラルネットワーク、人間の脳の働きに似た仕組みを使って推論を行います。細かい処理がところどころ必要になりますが、おおざっぱに言えばこうです。
それを更にデータを使ってトレーニングし、精度を上げていくのです。
元々は人間が作った仕組みですし、人間がチューニングをしています。又、読み込ませるデータも人間が作成しています。生のデータはもちろんこの現実世界のものなので人間の意図が介在する余地は少ないですが、基本的には人間が作り上げています。まあ、人間の主観的影響を逃れた生のデータ、人間の操作が加わっていない自然そのもののデータって何ですかという哲学的な問いが成り立つ事はいったんおいておきましょう。ともかくとして、人間が作り上げた膨大なデータを食べさせて処理しています。
少し前、Twitterでこんな事を言っている人がいました。ＡＩはハルシネーションを起こすかも知れない、しかし、ＩＱが低い人間はＡＩの出力をうのみにした方が結果が良い。細かい表現は微妙に異なりますが、こういう旨の事を言っていました。
これに対して、色々な指摘、反論が思いつきますが、この主張が一つの傾向を表している事は確かだと思います。
それは人は、人の言う事はあまり信用しなくても、ＡＩの言う事は割と真に受けているという事です。ですが、ＡＩを作ったのは人間ですから、実は多くの人はＡＩの設計者の思想を信じている事になります。ＡＩを作った人間の価値観と言った方が良いかも知れないですね。又、ＡＩの設計者の見落としたデータ選択におけるバイアスとも言えるでしょうね。例えば、ある特定のイデオロギーを礼賛するチューニングは可能です。又、逆に敵対的なチューニングも可能でしょう。ＡＩは倫理の問題に究極の視点を導入する事ができる万能のマシンという訳ではないのです。
Twitterで気に入らない相手の主張にＡＩを使って反論しようとしたり、ＡＩにファクトチェックさせようとする人が大勢います。ＡＩはそもそも前提として正しい情報を得なければ正しい出力ができません。そして、推論の仕方に問題が起こる場合もあります。ハルシネーションですね。ＡＩは何を食べて学習しているのでしょうか。主にネット上のデータです。ですから、ネット上の情報源が間違っていればＡＩが間違った学習をしている可能性は排除できません。尤も、基本的な事は人間がチューニングして排除しているでしょうが、そういう場所には設計者の思想が大きく反映されていると言えます。
それに加えて人間の従来の思想の枠組みの問題点である要素還元主義の問題も克服されていません。要素還元主義というのは物事を考える時に、全てを考慮する事ができないので、現実の似姿であるモデルを作って考えるけれども、それは現実の世界の描像とは異なると言う問題の事です。精緻な判断が必要とされる時ほど、小さな誤差が大きな問題を引き起こす事になり得ます。気象予測のカオス理論などもこの問題に関連すると言えるかも知れません。
ＡＩは万能の存在ではありません。便利な道具、文明の利器です。うまく使えば、巨人の肩の上に乗るがごとく、様々な知識を得られるかも知れません。ですが、使い方を誤れば大きな間違いを犯す事もあり得ます。
結論としてはＡＩの主張を全てうのみにするべきではないという事です。倫理的な判断が必要とされる場合には、人間が最終的に責任を負う事になります。例えば、ＡＩが何か間違った学習をして人間に危害を加える事を主張したとしても、これを真に受けて実行した場合、その責任は実行した人間に帰される事になります。
ＡＩ教とでもいうべき、ＡＩに対する過剰な信奉の形は科学主義の歪んだ結果です。科学は検証を経ているから正しい。高度な科学技術で作られたＡＩは正しい。多くの優れた科学者が設計に携わっているから正しいという。
科学も一つのイデオロギーであり得るという主張は繰り返しなされていますが、これと同じ事がＡＩにも言えるでしょう。科学教やＡＩ教が、膨大なデータを読ませた結果として多くの人の主張の最大公約数となり人間の世界で大きな力を持っていくというのはありそうな事で、事実ですらあると思いますが、個々の判断を行う、我々人間は常にその危険性について思い致さねばならないと思います。
ですが、ＡＩを使う事をやめるのは無理でしょう。産業革命において機械に仕事を奪われた人が機械を破壊する事を主張したラッダイト運動のような事は起きるかも知れないですが、この動きはむしろ加速していくでしょう。ＡＩは便利だからです。ＡＩは調べ物をする際の最初の一歩や、文章の添削や込み入った計算に使えますね。プログラミングにも大きな力を発揮しています。他にも医療分野の診断でも成果を出していますね。タイムマネジメントにも使えるでしょう。
時折、人間は便利な道具であるＡＩが良く切れる包丁や、強力な薬物と似た性質を持つ事を思い出す必要があるでしょう。それらで人を癒す事もできるし、人を傷付ける武器にもなり得るという事を。パルマコン、毒にも薬にもなり得るものという言葉がありますが、そういう性質がありますね。
