つづきを展開
ーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーー
日記
「人間らしさ」は能力ではなく、社会が“あえて人間を残す”ために払うコストの名前である。私はこの一句を、電車の揺れの中で、ほとんど身体の側から引き出された。AIが人間に追いつくかどうかという話は、結局のところ「どこまでをロボットでよいと社会が合意するか」という運用の話に回収される。合意とは、好みの宣言であり、好みの宣言は支払いの宣言であり、支払いの宣言は政治である。政治である以上、そこには必ず撤回条件が要る。撤回条件がないところで進歩が走ると、進歩は善意の顔をして人を踏む。私はこの順番を、今日も手放したくない。
電車で『スーパーインテリジェンス』を読み込むと、読書の速度が私の意思ではなく移動の都合に支配される。速度が支配されると、こちらの心が先に焦る。焦りは概念を早く閉じたがる。閉じた概念は反例を嫌う。反例を嫌う概念は反例を黙らせたくなる。反例を黙らせると制度は静かに回る。静かに回る制度は静かに人を選別する。私はこの静けさを恐れている。ただし恐怖をそのまま正義の吠え声に変えたくない。吠え声は耳障りである。しかし耳障りであるからこそ可視化される部分もある。問題は、吠え声が消えた後に残る“無音の運用”のほうである。無音の運用は、撤回不能な閉じを生みやすい。電車の中の読書は、この無音を増幅する。誰も私に返事をしない。誰も私の概念に反例を投げ込まない。だから私は、自分で自分に反例を投げ込まねばならない。反例を投げ込むとは、撤回の筋肉を保つことである。
AIの進歩には波があり、壁にぶつかっては突き抜けるというのを複数回経て今に至った、と本は言う。私はこの「波」と「壁」という語を、技術の話としてだけではなく、社会の運用の話として受け取った。波が来ると資金が集まる。資金が集まると人が集まる。人が集まると希望が生まれる。希望が生まれると誇張が生まれる。誇張が生まれると約束が生まれる。約束が生まれると評価指標が生まれる。評価指標が生まれると、測れるものが主役になる。測れるものが主役になると、測れないものは周縁へ押しやられる。周縁へ押しやられたものは沈黙する。沈黙したものは統計の外へ追いやられる。統計の外へ追いやられたものは学習データの外へ追いやられる。こうして「見えない」が増える。見えないが増えると、正しさはより強く吠える。吠える正しさは撤回条件を嫌う。私はこの循環の起点に、いつも「測る」という行為があることを見てしまう。
壁にぶつかる時期があるというのは、言い換えると「万能ではない時期がある」ということだ。万能ではない時期には、人間が補う。補うという名目で、人間が裏方に回される。裏方は評価されにくい。評価されにくいものは賃金に反映されにくい。賃金に反映されにくいものは人が去る。人が去ると「人手不足」が起きる。人手不足が起きると、再び「自動化」が正義の顔で登場する。ここで自動化は、悪意でなくても暴力になりうる。暴力とは、線の引き方が撤回不能になることである。私は、AIの波と壁を読むとき、技術の勝利より先に、この撤回不能の速度が上がっていく気配を怖がっている。
昔は学者が大勢集まって人工知能の会議を開いた、という記述もあった。私はその光景を少し美しいものとして想像してしまう。ノイマンやチューリングのような名前が出てくると、なおさらである。天才が時代の最先端にいて、学問が前線で、議論が公共的な広場のように開かれていた——そういう物語は、読む側の心を楽にする。なぜ楽なのか。責任の所在が、天才と学問という名札に貼り付いてくれるからである。「彼らがやった」「学問が進んだ」。この言い方は、私たちを傍観者にしてくれる。しかし、傍観者のままでは済まない時代が来る。というより、もう来ている。いまのAIの前線は、学会の議事録よりも、企業のロードマップのほうが速く動く。速く動くところに実装があり、実装があるところに制度がある。制度があるところに選別がある。選別があるところに労務がある。私は、この接続を切れない場所に配属されていく。だから私は、天才の名前で安心したくない。
本は、今後は学者が自分の領域を守るため、あまり協力的でない可能性もある、といった趣旨のことも述べていた。私はこの指摘を、学界の性格判断としてではなく、協力という行為がどれほど壊れやすいかの記述として読んだ。協力は、思いやりと同じく、気分や信頼や余裕に依存する。余裕が削られた瞬間、協力は消える。ここで大事なのは、協力が消えること自体より、協力が消えたあとに残る“進歩のルート”がどこになるかである。協力が消えたとき、進歩が止まるとは限らない。進歩は別のルートで続く。別のルートとは、利害が一致する場所である。利害が一致する場所とは、予算が付く場所である。予算が付く場所とは、回収が見込める場所である。回収が見込める場所とは、計測可能な指標に落とせる場所である。計測可能に落とせる場所とは、名づけが安定している場所である。こうして、AIの未来は「名づけが安定する領域」から順に塗りつぶされていく。
私は最近、天才と言えば起業家が多い印象を持っている。才能をお金に還元する時代なのだろう、とも思う。だが私は、ここで軽い諦めの顔をした安心に逃げたくない。才能がお金に還元されること自体より、才能の評価が「還元できる形」に限定されていくことのほうが気になる。還元できる形とは、スケールする形である。スケールする形とは、複製できる形である。複製できる形とは、手続き化できる形である。手続き化できる形とは、例外を潰せる形である。例外を潰せる形とは、反例を黙らせられる形である。私はここで、ポパーの辛口を思い出す。閉じた体系は反証を嫌う。反証を嫌う体系は、反証を例外として棚上げする。棚上げが続くと、体系はむしろ強く見える。強く見える体系は人を安心させる。安心は閉じを呼ぶ。閉じは撤回条件を削る。撤回条件が削られると、体系は政治へ侵入する。政治へ侵入した体系は制度になる。制度になった体系は、異論を吠え声として扱う。吠え声として扱われた異論は、道徳的に劣ったものとして排除されやすい。排除が進むと、開かれた社会は閉じる。私はいま、AIの文脈でこの閉じが加速している気配を嗅いでいる。予測が当たるほど、閉じは気持ちが良い。気持ちが良い閉じは、撤回の筋肉を腐らせる。
本には、2100年に人間ができることがなんでもできるロボットが生まれる可能性が90％だと書いてあった。私はこの数字を、真偽の問題としては扱わない。読書体験として、数字はいつも“気分”を生む。90％という数字は未来を確率の衣で包み、しかもほぼ確定のように見せる。確率は冷静に見えるが、確率が高いほど人は冷静ではいられない。高い確率は準備を促す。準備は制度を促す。制度は名づけを促す。名づけは選別を促す。だから私は、90％という数字を見たとき、それが世界に与える作用のほうを観察したい。数字は当たるか外れるかではなく、先に運用を変える。運用が変われば、当たり外れの意味も変わる。未来予測は未来を当てるだけでなく、未来の条件を先に作ってしまう。私はこの循環を、電車の中で反芻した。
ここで私は、自分の仕事の方向——労務管理——を、逃げずに重ね合わせる。労務管理は、明確ではない場所に毎日線を引き直す仕事である。ハラスメントと指導の境界線。合理的配慮と特別扱いの境界線。成果と過労の境界線。評価と選別の境界線。線を引くとは、誰かをこちら側に置き、誰かをあちら側に置くことである。だから線を引くことは政治である。政治は正しさを伴う。正しさは吠える。吠え声を嫌う気持ちは私にもある。しかし吠え声がゼロの社会は別の意味で怖い。吠え声がないのではない。吠え声を必要としないほど、選別が静かに進んでいるかもしれないからだ。私は吠え声を消したいのではない。吠え声の量を測りたい。量を測るとは、制度のたわみを測ることである。たわみが見えると、破れの予兆が見える。破れの予兆が見えると、撤回条件が設計できる。私はこの順番を今日も手放したくない。
AIは測る。測るというより、測れる形に世界を押し潰す。押し潰すと言うと悪意に聞こえるが、悪意でなくても押し潰しは起こる。予測し、分類し、最適化するには世界を命題にしなければならない。命題にするには概念の境界線を引かなければならない。境界線を引くには名前が要る。名前が要るということは、名づけが先に来るということだ。つまりAIの問題は、知能の高さ以前に、名づけの政治が自動化されることにある。自動化されると速度が上がる。速度が上がると撤回が追いつかない。撤回が追いつかないと、正しさが吠える前に選別が終わっている。ここが本当に怖い。
私は「人間らしさ」について考えた。介護業界のように、人間らしさが要される分野の未来である。本当に人間らしさが求められる限りでは、人間は淘汰されないのではないか、という感覚がある。言い換えると、「それはロボットでいいよね」という事柄が全ての領域を埋め尽くした瞬間、人間が終わりを迎える。どこかで「ここから先は人間がいい」と思う人間が残れば、人間はまだ淘汰されない。私はこの推察を、そのまま希望として抱くのではなく、いったん“制度の問い”に翻訳してみる。「ここから先は人間がいい」という判断は、誰が、どの場で、どの費用で、どう維持するのか。好みは無料ではない。好みを通すには支払いが要る。支払いとは金だけではない。時間、手続き、説明責任、待つこと、失敗を許すこと、例外を抱えること。その全部がコストである。つまり、「人間がいい」は感情の宣言ではなく、コストの引き受けの宣言になる。
介護の現場を想像するとわかる。人間らしさが必要だと言うとき、私たちは何を言っているのか。触れ方、間合い、沈黙の扱い、予期しない揺れへの対応、言葉にできない不安への同調、怒りの受け止め、恥の保護、本人の尊厳の守り方。これらは能力の一覧表にしにくい。しにくいから測定が難しい。測定が難しいから制度化が難しい。制度化が難しいから賃金の根拠にしにくい。賃金の根拠にしにくいから労働は軽く扱われやすい。軽く扱われると人は辞める。辞めると人手不足になる。人手不足になると、ロボットでいいよね、が強くなる。つまり、介護が人間の領域として残るかどうかは、抽象的な「人間らしさ」の話ではなく、この領域を人間のものとして残すための支払いを、社会が続けられるかどうかにかかっている。
ここで私は、昨日の自分の違和感——〈世界への愛〉——を思い出す。愛を「思いやり」と定義する一部のリベラルがいるが、そんな優しいものなのか、という疑念である。思いやりで世界は成立するといえるか。結局は自分の利権なり立場が怪しくなると思いやりなど一瞬で吹き飛ぶ、と私は推察している。私はこの推察を、悲観としてではなく、設計条件として扱いたい。思いやりは否定しない。否定しないが、骨格にはなりにくい。骨格にすべきものは、思いやりが消えても回る仕組みである。思いやりが消えても回る仕組みとは、つまり撤回条件を持つ制度である。ここで私は、〈世界への愛〉を、温かい標語としてではなく、世界を残すための運用として引き取る必要を感じる。世界は、私の内面ではない。世界は人間が共同で作り、共同で住む“あいだ”である。制度、言葉、約束、公共空間、作品、都市、慣習。こうしたものを、壊さず持たせる。次の世代に引き渡す。これが「世界への愛」だと読むなら、愛は自己犠牲の激情ではなく、持続の責任に近い。思いやりではなく、保全の技術に近い。技術とは折り返し地点の設計である。
私はここで、今日の新しい概念ラベルを置く。私はこれを「人間留保」と呼ぶことにする。留保とは、ただ保留することではない。あらかじめ「ここは自動化しない」「ここは人間に残す」と決めておくことでもあるが、もっと正確には「自動化の圧力に対して、例外を制度として守る」ことである。留保は好みの宣言であり、好みはコストの引き受けであり、引き受けは政治である。政治である以上、誰がその留保の利益を得て、誰がその留保の負担を負うのかが問われる。ここで留保は、単なる優しさではなく、利害調整の技術になる。技術になる以上、測定と撤回の設計が要る。私はこの「人間留保」を、介護だけでなく、教育、労務管理、司法、採用、評価、あらゆる境界線の引き直しに繋げて考えたい。
なぜなら、「それはロボットでいいよね」が全領域を埋め尽くす瞬間とは、単にロボットが万能になった瞬間ではないからである。社会が、「人間に任せる理由」を説明できなくなった瞬間である。説明できないとは、予算化できないということでもある。予算化できないとは、制度として守れないということである。制度として守れないものは市場に負ける。市場に負けるとは、最適化に負けるということである。最適化は数値化を要求する。数値化は名づけを要求する。名づけは境界線を要求する。境界線は選別を要求する。こうして、「ロボットでいいよね」は、単なる合理性ではなく、名づけの政治の帰結としてやって来る。
しかし逆に言えば、「ここから先は人間がいい」が残るためには、社会が“理由”を持てばよい。理由とは倫理的な正しさだけでは足りない。正しさは吠える。吠え声は反対者を黙らせる誘惑を伴う。黙らせると制度は静かに回る。静かに回る制度は静かに人を選別する。私はこの循環を避けたい。だから理由は、吠え声ではなく運用の形を取る必要がある。たとえば介護なら、「人間が関与することで起きる回復や安心」を、数値に落とし切らなくてもいい形で評価する仕組みを持つこと。数値に落とし切れなくても、報酬の根拠として成立する言語を持つこと。言語を持つとは、名づけを丁寧にするということだ。名づけを丁寧にするとは、剥がせる名札にするということだ。剥がせる名札とは、撤回条件を設けるということだ。
撤回の筋肉とは何か。私はこれを「後から謝ること」とは区別したい。謝罪は道徳である。撤回は運用である。撤回とは、どの前提が崩れたら結論を引き返すか、という折り返し地点の設計である。どの指標が歪んだら評価方法を変えるのか。どの副作用が出たら制度を止めるのか。どの段階で説明責任を追加するのか。どのタイミングで第三者を入れるのか。撤回条件がない制度は、坂道をブレーキなしで転がる。転がる途中で誰かが叫んでも止まらない。叫びは吠え声になり、吠え声は暴力になる。私は叫びを嫌うのではない。止まれない構造を嫌う。止まれない構造が、人を家畜化する。家畜化という語は強い。しかし私は強い語を使うときこそ、美学が必要だと思う。美学は観賞の趣味ではない。私にとっては、世界への接触の設計である。接触の仕方が変わると、見えるものが変わる。見えるものが変わると、正しさの形が変わる。正しさの形が変わると、制度の設計が変わる。制度の設計が変わると、人が黙って選別される地点が変わる。
『スーパーインテリジェンス』が冷たいのは、知能の未来を語るからではない。名札を貼る速度が上がる未来を語るからである。分類の速度が上がる。評価の速度が上がる。配置の速度が上がる。速度が上がると誤配の回収が難しくなる。誤配の回収が難しくなると誤配が固定される。固定された誤配は制度になる。制度になった誤配は自然に見える。自然に見える誤配は誰も謝らない。謝られない誤配は当事者の沈黙として蓄積する。沈黙が蓄積すると社会は静かに閉じる。これが開かれた社会の敵である。敵はいつも、派手な革命として来ない。静かな運用として来る。
ここで私は、未来のロボットが人間の能力を全面的に代替するかどうかよりも、別の問いに引き寄せられる。社会が、どこに段差を作るかである。段差とは折り返し地点である。どの地点に「自動化を止める理由」を置くか。どの地点に「人間留保の根拠」を置くか。どの地点に「人間が関与することの価値」を置くか。価値を置くとは、価値を名づけるということである。名づけるとは、境界線を引くということである。境界線を引くとは、誰かをこちら側に置き、誰かをあちら側に置くということである。だから人間留保は、優しい理想ではなく、線引きの政治である。政治である以上、対立を伴う。対立を伴う以上、吠え声が出る。吠え声が出る以上、吠え声を嫌って沈黙したくなる。だが沈黙した瞬間、無音の運用が勝つ。私は吠え声を礼賛したいのではない。吠え声が制度の破れの予兆であるとき、その量を測り、たわみを見つけ、撤回条件を付けたいのである。
電車でしか読めないという制約は、奇妙な贈り物でもあった。読む速度が遅いと、理論を閉じ切れない。閉じ切れないと、言葉が吠え声になる前に湿り気が残る。湿り気が残ると、制度の姿勢が変わる余地が生まれる。私はこの余地を守りたい。守りたいが、守りたいと言った瞬間、それが吠え声に化ける危険もある。だから私は、守りたいのではなく、測りたいのである。測るとは、名づけの政治を点検し、折り返し地点を設計し、撤回の筋肉を予算化することである。予算化とは、正義の叫びを“仕事”に変えることでもある。撤回は遅い。遅いから高い。高いから省略される。省略された撤回の上で制度は淡々と回る。淡々と回る制度の上で人は黙って選別される。私はこの「淡々と回る」を止めたいのではない。淡々と回る場所に、折り返し地点という段差を作りたい。段差があれば、転がり落ちる速度が落ちる。速度が落ちれば、声が吠え声に変質する前に、言い直しが可能になる。
結局、AIの未来がどうであれ、私の側に残る実務的な問いは単純である。「人間留保」をどのように設計するか、である。介護のように人間らしさが要される領域を、単に“聖域”として囲い込むのではなく、なぜそこが聖域であるのかを説明可能な形にし、説明可能であるがゆえに予算化し、予算化されるがゆえに継続し、継続されるがゆえに撤回も可能にする。撤回可能であるとは、間違いを戻せるということである。戻せるということは、誤配を回収できるということである。回収できるということは、名札が烙印になる前に剥がせるということである。私はこの「剥がせる」を、社会の設計原理として、少なくとも自分の担当領域では手放したくない。
では私は、AIが塗りつぶしていく「ロボットでいいよね」の領域に対して、どこに、どの粒度で、どの根拠で「ここから先は人間がいい」という段差を作り、その段差のコストを誰の負担として、どの頻度で、どの公開度で引き受け、そしてその段差が形骸化して烙印や選別の口実に変わる兆候を、どの指標で検知し、検知した瞬間にどんな撤回条件を発動させるべきなのだろうか。
関連読書日記
