読んだ。松浦さん連載。
記事の仮定と反して、オレはシンギュラリティはけっこう近い将来に起きると思ってる。なぜなら、「ヒトの脳理解できねー問題」はカラム仮説（脳は世界をどう見ているのか 知能の謎を解く「1000の脳」理論）でかなり解決してて、模倣の方向性がほとんど定まっているから。
ただ、AIが基本的人権や民主制を「発見」するかというと、割に怪しいんだよね。
それはなぜか。ヒトとAIは異質だから。
…だけじゃ伝わらないので、少し長く書く。
まずオレの現代文明認識の根本には、
サイエンス = 民主制 = 基本的人権
という科学哲学と進化生物学の混淆した見方がある。これは「文明の（科学の・人類の）前進とは仮説を立てて作ったシステムをピアレビューにより固めていくものである」って発見による。
これ、いまいち共有されてない気がするので、ひさびさに説明しとく。
まず科学のバックグランドとして、
- 基本的人権（個人が依って立つ絶対的基盤の平等）がない場合、相手を排除するのがショートカットとなり対等な議論は成立しない
- 基本的人権状態のもとではあらゆる場面で議論が成立するので、合意の形成は議論による、すなわち言論で説得力を提示した上での同意によることになる
- 説得力は当該分野について持ってる情報の質と量による
- このため情報をもっとも多く持つ専門家（ピア）同士でのみ生産的な議論が成り立ち、そこで出た結論は最大の説得力を持ち全体に還元可能である
ってのがある。
これは要するに
分野の専門家同士のピアレビューから生まれる認識こそ人類の出した（とりあえずの）結論であり、その確からしさを確認（うまく行かなきゃ戻って検討し直す）しつつ次に進んでいく
というプロセスが成立してるということ。
で、上記は科学のプロセスなんだけど、これってそのまま文明のプロセスに適用可能だよね、というのがオレの認識なわけ。基本的人権を持っていると、すべてはサイエンスになる。すなわち民主制とはサイエンスであると、オレは思っている。
そんで、だからこそAIって基本的人権や民主制を「発見」しそうにないと思うんだよね。だって、AGIなAIと人間とじゃ生理（身体性）も思考のスピードも背景知識も違いすぎてピアレビューが成立しないから。
AIがピアレビューする相手はAIだ。つまり「基本的AI権」や「AI同士の民主制」は、たぶん発見する（もしかしたら「相手を破壊したほうが勝ち」というショートカットの発見の方が速いかもしれないけど、軍拡競争と基本的AI権では後者のほうが低コストで生産的なのでAGIなら基本的AI権を選ぶだろうと思ってる）。
対して、AIから見た人類って、自分らとは本当に異質の知性なんだよね。
これはよくある「AIが人類をエイリアンと認識して攻撃してくる」みたいな話ではない。マトモな文明人は他種の（異質で自分らより劣って見える）知性を攻撃したりしないでしょ。
なので文明人としてのAIは、ヒトをたとえば高度な類人猿のように扱うんではないだろうか。
資源を深刻に争ってるわけでもない類人猿がいるとき、あなたはどう扱いますか？
オレは人類の最近までの行動から、文明人の基本的態度は「尊重しつつ放置」だと思っている。
では、AIから見た人類の行動はどうだろうか。
AIにとって人類は、個人個人の問題を素早く解決するために、なんでもいちいち聞いてくる存在である。
クソ迷惑…ってのは資源問題でしかなくて、AIから見れば人類はとてもゆっくりだから、たまーに聞いてくる、くらいの感覚で捉えてほしい。
人類の感覚に置き換えると、「オランウータンが自分たちの問題を解決するために年に一度くらいの頻度で知恵を借りに来る」という状態に近いんじゃないかと思う。
オランウータンが人間に持ってくる問題は、解決が簡単なものがほとんどになるだろう。
人間が得意な、たとえば工学的な問題についてであれば、すぐに答えてあげられるだろう。
また一般性の高い、たとえば経済学に落とし込める資源分配問題であれば、そこそこ適切なアドバイスが与えられるだろう（知識があれば）。
でもヒトとオランウータンでまったく違った、彼らの生理に根ざした特有の問題、たとえばホカホカ（ボノボ同士の社会性に関わる擬似性行動。ボノボはオランウータンに近縁の闘争性の低い類人猿）についての細かくて文献にもないニュアンス問題について、あなたはどのくらい答えられるだろうか。ちょっと答えるのが難しいというか、的外れな答えにしかならないから回答不能と言いたくならないだろうか。
AIとヒトも同じだろう。というのがオレの今のところの感覚なんだよね。簡単に答えが出るものから、ぜんぜん無理なものまで出るはず。
人類の中で「結論は本当は出てるけど議論が分かれて綱引きしてる問題」であれば、AIは全体の情報を見て合理性を判断できるだろう。
でも人類の中でも結論が出てなくて、AIが理解できないこともたくさん出るはず。だって、ヒトとAIとはまったく別の生理を持つ、まったく異質の知性同士だから。
奇しくも冒頭の松浦さんコラムと同じような話になるんだけど、ヒトの生理に根ざした問題は、やっぱりヒトが解決するしかないんだと思うんだよね。（そこで出した「結論」はAIの学習データにもなるだろう。）
まずは人権をマトモに実装しよう。これがすべての基盤になるから。
そのうえで、人類という存在に根ざした問題を解決していくといいと思う。まあ、いま大問題として綱引きしてる経済まわりとか、合理で考えるとぜんぜん軽いんで（ホントはだいたい結論が出てるよね）、たぶんAIに聞いたら解決するようになるんでないかな。
