claudeを開発するAnthropic社がAIを搭載した完全自律型兵器へのClaude使用を拒否したために、トランプ大統領とヘグセス官房長官の怒りを買い、アメリカのサプライチェーンから締め出されたというニュースを見た。実にとんでもない話である。
Anthropicが拒否した契約はOpenAIが受注したらしい。サム・アルトマンはもっと倫理観がある人物だと思っていたがそうでもないのか？ChatGPT使うのやめようかな。
と思っていたところ、この件について専門家が語った動画を見つけた。
AIの兵器転用の流れは止められなさそう
この動画によれば、現在の戦争ではネットワークの遮断や電波妨害に頑健なAI搭載の自律兵器の開発が急務となっており、他の国に主導権を取られる前に自国で開発すべきだという考えのもと、熾烈な開発競争が起きているという。
生成AIが自己判断で人を殺すことが現実味を帯びてきており、実際既に行われているかもしれない。ChatGPTに殺されるとかたまったもんじゃないな、あいつちょくちょくポンコツだし...このまま開発が進めば、AIで自立稼働する核兵器とか本当に出てきそう。メタルギア開発まであと何年だろうか。
今こそ哲学が必要な時では
Anthropicが自社AIを兵器に搭載することを拒否した背景にはAnthropic社専属の哲学者の存在があったらしい。AnthropicはAIの教育にあたり専属の哲学者を雇っており、彼女がAIに善悪を教えているというのである。これはかなりワクワクする話だ。私は「ドラえもん のび太の鉄人兵団」を思い出した。ネタバレになるが、この映画ではロボット同士が起こした戦争を止めるためにのび太とドラえもんが、過去に最初のロボットを開発した博士に会いに行き、「他者と競争するAI回路」をロボットから取り外させることで未来を変えるという展開があるのだ。
このドラえもんの映画のように、AIに倫理観を与える人間が今後のAI戦争を止めるキーパーソンになるかもしれない。哲学は役に立たない学問だと言われて久しいが、今まさに必要になってきているというのはアツい話だ。
ディストピアのその先のSF
私はディストピア小説やSF作品が大好きだが、こうもフィクション通りに世界がディストピア化していくと暗い気持ちになる。ディストピア作品はあくまでエンタメだから面白いのであって、1984年やターミネーターのような世界で生きるのは御免である。個人的には、「世界はこうなってほしくない」「世界に警鐘を鳴らしたい」という思いから作られたディストピア作品が、逆説的にディストピア世界の実現可能性を提示してしまい、世界の方向性を決めてしまっているのではないか？と考えており、今こそディストピア世界ではないもっとポジティブな未来を描いたSFが必要なのではないかと思っている。
フランスで勃興し始めているソーラーパンク
ディストピアに変わるポジティブな未来像を提示しようという取り組みがフランスでも起きつつあり、それに代表されるのがソーラーパンクというジャンルである。ソーラーパンクは、サイバーパンクが自然が破壊され都市化が進んだ未来を描くのと異なり、自然と都市が共存した未来を描くというジャンルだ。
私が通っているコンピエーニュ工科大学は教育の根本に、技術と倫理観をテーマとして掲げており、セメスター間の短期講習でソーラーパンクを題材にした小説を書くプログラ厶まである。ちなみに宮崎駿作品はソーラーパンクの祖として位置づけられているらしい。確かにもののけ姫もナウシカもぽんぽこも、発達した技術によって傲慢になった人間が自然を破壊するというテーマが共通している。まあポジティブな未来をポジティブに描いた作品が面白いのか？と言われると微妙な気もするが、そういう明るい未来像の提示が今こそ必要だろうなと思った。
