最近読んだ本：戸谷洋志著「スマートな悪　技術と暴力について」

東京都が主催するイベントやボランティアに参加するとポイントが付与されるアプリがリリースされたというニュース*1を聞いて、税金の無駄遣いを超えたモヤっとした不気味さを覚えた。

行動にポイントを与える動機付けも気味が悪いし、そもそもシステムの維持管理やポイントの還元のためにそこそこ大きなお金が動く事をどう正当化するのだろうか。

 

このアプリの話題を聞いて真っ先に思い出したのが日本政府が提唱する超スマート社会の概念である「Society 5.0*2」であり、東京都の政策は明らかにこの概念と歩調を合わせている。

 

このSociety 5.0が提唱する「スマート社会」について僕はあまり良い印象を持っていない。

スマートフォンを生活の中心に据えた社会のあり方が僕にはとても窮屈で、国民のためというよりも行政とプラットフォーマーと諸々ベンダーへの利益供与のための概念だから。

そう考えると、この概念の補助線の先にできたであろうこのアプリと東京都の政策を反芻する度に言いようのない悪辣さと気持ち悪さが積もるのである。

 

この話題の数週間前に手に取った戸谷洋志著「スマートな悪　技術と暴力について」が、この東京都アプリの設計思想の根幹になったであろうSociety 5.0について、その気持ち悪さや座りの悪さを解体的に説明していて非常に面白かったのでここで紹介したい。

いま、あなたの周りには、いったいいくつのスマートデバイスが存在するだろうか。もしかしたら、あなたのポケットにはスマートフォンが入っているかも知れない。あるいはあなたの腕にはスマートウォッチが巻かれているかも知れない。スマートスピーカーで音楽を聴き、スマートペンでメモを取っているかもしれない。あなたの家はスマートロックに守られているかも知れない。そんなあなたはスマートシティに住んでいるかも知れない。
　私たちの日常を多くのスマートなものが浸食している。私たちの生活はだんだんと、しかし確実に、全体としてスマート化し始めている。しかし、それはそうであるべきなのだろうか。そのように考えているとき、問われているのは倫理である。本書は、こうしたスマートさの倫理的な含意を考察するものである。
（中略）
　もちろん、社会がスマート化することによって私たちの生活が便利になるのは事実だろう。それによって、これまで放置されてきた社会課題が解決され、人々の豊かな暮らしが実現されるのなら、それは歓迎されるべきことだ。まずこの点を強調しておこう。
　あえて疑問を口にしてみよう。スマートさがそれ自体で望ましいものであるとは限らないのではないか。むしろ、スマートさによってもたらされる不都合な事態、回避されるべき事態、一言で表現するなら、「悪」もまた存在しうるのではないか。そうした悪を覆い隠し、社会全体をスマート化することは、実際にはとても危険なことなのではないか。超スマート社会は本当に人間にとって望ましい世界なのか。その世界は、本当に、人間に対して牙を剥かないのだろうか。
　そうした、スマートさが抱えうるネガティブな側面について、つまり「スマートな悪」について分析することが、本書のテーマだ。

（講談社websiteより）

著者は通勤電車の暴力性と、その不快さが当たり前になっている社会の異常性を問題提起の手がかりとして「機械としての社会システム」に焦点を当て、マルティン・ハイデガーやハンナ・アーレントらの思考を手がかりに解体と理解を試みる。

 

本書において筆者は日立東大ラボの解釈*3を引用しながら、Society 5.0に記述される超スマート社会の定義*4に関してまずこう指摘する。

ここで提案されているのは、実際には超スマート社会が人間の行動を制御しているにもかかわらず、制御されている本人は、あたかも自分が自由であるかのように感じるような、そうした「緩やかな制御」である。それによって、生成変化と自由の尊重による人間の多様化と、そうした多様な人々が共に生きられる社会の両立が実現される、と考えられているのだ。

これはすでにWeb広告で実装されていることで、「必要なもの・サービスを、必要な⼈に、必要な時に、必要なだけ提供」する広告が、超スマート社会では広告の枠に止まらず、個々に与えられる情報を制御することに行き着くだろうことは容易に想像できる。

 

また筆者はスマート社会の本質は「最適化」であり、社会ではなく人間がスマート社会に最適化されるのだと指摘する。

スマートさの本質的な特徴は「最適化」である。そうであるとしたら、次に問われるべきなのは、その際に最適化されるのが何なのか、ということだ。超スマート社会の理念は、必要なものが必要なときに必要な人に必要なだけ届く社会である。では、何がスマート化されると、そうした社会が実現されるのだろうか。結論から言えば、それは、テクノロジーの性能ではなく、仕組みである。

（中略）

人事採用のために使われたAIが引き起こした倫理的課題は、実際には、もっと多くの観点から論じられるべき事象だ。しかしその問題の基礎にあるのは、そもそも社会において尊重される価値が「最適化」に限定されているということである。このように、最適化によって現実が支配されるようになったとき、人間自身もまたサプライ・チェーンの効率に影響を与える変数の一つとして、いわば単なる資源として見なされるようになる。

 

さらに一歩踏み込んでスマートさとは社会システムの度合いであり、アイヒマンを引き合いにシステムに宿る「悪」を手がかりに「スマートな悪」を「システムへの良心の最適化によって生じる悪」であり「最適化に飲み込まれると別の観点から思考する可能性を奪われる」と論じる。

続けてアイヒマンに向けたアーレントの論考*5を引き合いに、思考の欠如と忘却が悪を生むことを次のように述べる。

悪の陳腐さは、思考の欠如として性格づけることができる。そしてそれが意味しているのは、自分の行為をその都度の状況の変化から独立に判断するための根をもっていないということだ。アーレントによれば、こうした＜根＞の喪失は、自分の行為に対する忘却という形で顕在化する。

（中略）

だからこそ思考しない人間たちは、共同体が変わり、道徳的なルールが変わった時間に、その新しいルールへと自動的に考え方を変えることができる。なぜなら、それまで自分がどのような規範に基づいて行為していたのかを、もはや覚えていないからだ。普通の人々が、一夜にしてナチズムのイデオロギーに賛同し、ナチスが崩壊すると、一夜にして民主的な価値観に賛同することができたのは、その度ごとにどの価値体系が優れているかを比較する基準を節操なく変えているからではない。そうではなく、ただそれまで自分が信じていた価値体系が何であったのかを、覚えていないからなのである。

このくだりを拡大すると、コロナ禍の頃にTwitterに溢れた「ワクチンを打たない事は悪だ」とか「この国難の時期に外出した〇〇さんち一家」…のようなツイートは、思考停止した正義の発露そのものだ。戦後に過去をさっさと捨て半ば「なかったこと」にして高度経済成長をした日本人はスマートな悪に無自覚に染まる傾向が強いのではないかと思わずにはいられない。

 

 

他にも紹介したい文章が多々あるが、ここでは紹介しきれないのでぜひこの本を読んでいただきたい。ハイデガーやアーレントを引用しながらも、平易な文章で要点を150ページ程度に纏めているので大変読みやすい。

 

スマート社会に対する居心地の悪さを覚える人のみならず、ナチスドイツ=悪という画一的な教育をうまく飲み込めない中高生にもおすすめしたい。むしろ「悪とは何か」を考える上で中高生が読むべき本だと思う。

それにしても東京都民は大変だ。

家を建てたら屋根に太陽光パネルを乗っけなきゃいけないし、アプリを通してポイントを餌に行動を促される「マイルド全体主義」の中で暮らすのだから。社会をより良くすることには大賛成だけれど、人間の倫理観で取り扱えないレベルにテクノロジーが到達した世界では、テクノロジーと権力が容易に社会をコントロールできるのだ。

 

こんなことを書くと「そんなアプリを使わなければいいじゃないか、東京に来るな」という一見まともなコメントを貰いそうなのだが、僕が空恐ろしいと感じるのはこの「マイルド全体主義」に気付かず、行政の「緩やかな制御」に安易に扇動される人々なのだ。

 

コロナ禍真っ最中のあの頃、ワクチンや行動規制に異議を表明した僕らのような人間に向けられたツイートの数々を、現代に生きる人々はどう振り返るだろうか。思考停止で喚き散らした人たちは反省するだろうか*6。

book.asahi.com