渡辺正峰『意識の脳科学　「デジタル不老不死」の扉を開く』

プロローグ／１章 　死は怖くないか

プロローグでは筆者が死の恐怖を他の人に打ち明けたがうまく理解されなかったエピソードとかを枕に、本書の概要
１章では『順列都市』を枕にして、意識のアップロードと不老不死研究の話
ちょっと面白いのは、こういう研究しているからだろうけれど、集まってくる学生がみな、不老不死を目指す意識が高くて、筆者が「不老不死ネイティブ世代」だと驚いているくだり。
筆者の研究室に進むか、それとも遺体冷凍保存の研究に進むかとか、そういう進路の悩み方をしていているらしい。

２章 　アップロード後の世界はどうなるか

環境、身体、脳の３つの観点にわけて、それらのデジタル化について
環境のデジタル化＝いわゆる仮想現実技術
身体のデジタル化＝コンピュータ・シミュレーション上の仮想身体からの信号を脳に伝える
脳のデジタル化
→フェーディング・クオリア（チャーマーズの思考実験）
→神経細胞一つ一つをシリコンに置き換えていくが、仮に実現できても非常に高価になってしまう（脳一つにつき１台ずつコンピュータが必要）
→コンピュータ上で、ニューロンの入出力特性をシミュレーション（１台に複数人アップロード可能）

３章 　死を介さない意識のアップロードは可能か

この章の冒頭、筆者が下條研究室に入ったばかりの頃の話が書かれているが、筆者はもともとは、意識の研究をしていたわけではないらしい。

アップロードの際に死んでしまうような方法は、アップロードによって死を避けたい人間にとっては望ましくない、と
分離脳がヒント
生体脳半球と機械半球をつなげる

４章 　侵襲ブレイン・マシン・インターフェース

非侵襲は論外
この章では、ニューラリンクのBMIを主に紹介した後、筆者が提案・開発中のBMI技術を紹介している。
また、ニューラリンクの話以外に、DARPAの100万ニューロンのBMI計画や、2019年に中国科学院が新設した神経科学関連キャンパスなども紹介されており、侵襲BMI開発が米中で加速していることが述べられている。

• ニューラリンク

アカデミア発の技術で、ニューラリンクが注目したものが２つ
（１）神経機能代替（ロボットアーム動かす実験）
（２）柔らかい電極
また、侵襲BMIのネックとして有線だと開口部から感染症になるおそれがあげられる
このため、ニューラリンクは「無線皮下封印」にも力を入れる。この技術自体はすでに脳疾患治療で実用化されているらしいが、BMIとして用いるためには、無線通信容量の問題がある。ニューラリンクの求人みると、集積回路のエンジニアを募集している、と。

ところで、BMIが実用化された際に軍事利用されないかという懸念について本書は検討していて、その可能性は低いとしている。
AIやドローンの進歩が速すぎて、BMI兵器は優位性とれないだろう、というのがその理由
BMI実用化は普通に医療応用から始まって、そこからどう健常者に普及するかは、アーリーアダプターがどう利用するかや法規制に依る、と

• 灰白質BMIの問題点

さて、我らが半球接続だが、現状、ニューラリンクなどが作っているBMI技術の延長で実現できるのか
現在、主に開発されている侵襲BMIというのは灰白質に電極を差し込むというもの
そもそも電極はニューロンよりもでかい
脳半球同士をつなぐ脳梁には１億ものニューロンがあるが、ニューラリンクの次世代BMIでも５桁足りない
また、灰白質BMIでは脳への情報の書き込みができないという指摘がある。
灰白質に挿しこんだ電極で刺激すると、遠い場所のニューロンも反応してしまうため。

• 神経束断面BMI

そこで筆者が提案しているのが、神経線維束の断面に高密度二次元電極アレイを挿しこむというもの
高密度二次元電極アレイというのはCMOSのような集積回路技術で電極を細かく並べたもの
現在、最も集積度が高いものは700ナノメートル間隔で、あと数分の１狭められれば、１本１本の神経線維に電極をつなげられる、と。
神経線維を切断してしまうのがネックだが、神経線維の再生治療技術は今日進月歩だ、と。

５章 　いざ、意識のアップロード！

本章では、筆者が提案する、生体脳半球と機械半球を接続するという方式による、意識のアップロード手順が紹介されている。

まず、現在でも重度のてんかん患者に行われる脳梁離断術の応用で、BMIを挿入する
注意すべきは、この段階で分離脳状態になる（意識が右半球と左半球の二つに分かれる）こと。
機械半球を接続。機械半球は記憶も人格ももたない「ニュートラルな」意識
機械半球との接続の仕方の詳細は13章
その後、記憶の転送を行う
これは、海馬にある短期記憶が大脳皮質全体に保存される長期記憶へと転換されるプロセスを真似する形で行われる。
（ところで、海馬の研究に貢献したHM氏って2008年に亡くなったあと本名公開されていたのね。知らんかった）
人格の同一性には思い出せない記憶も重要なので、ペンローズの実験よろしく、電極で刺激していろいろ強制的に想起させて転送していく。
ここらへんの記憶転送アイデアは前著にも書いてあった。
後日、生身の方の半球が死を迎えたら、やはり記憶の転送などをされたもう一方の機械半球と接続し、意識の統合を果たすことで、アップロードは完了となる。

章の末尾で、これはお話風に書かれているだけだが、現実世界と同じ速度で演算するとサーバーコストが嵩むので、現実世界との交流は当面できない。先にアップロードを果たした人たちとでデジタルあの世へいくことになる、ということが書かれていた。

ところで、これって比較的意識が明瞭な状態で自然死することを想定しているような気がするけれど、それはなかなか稀なことのようにも思えるので、死を迎える前にどこかでえいやっと機械に乗り移る決断をしないといけないような気がする。
あと、コンピュータ上でも自分の意識を保てる、というのは、半球接続状態でも確かめられるとして、その後、生体が失われた後にいくことになる仮想現実空間の解像度はいかに、というのはありそう。
それともう一つ気になったのは、機械半球って接続時には物理的にどこにあることになっているんだ？　生体脳そのものは、左右どちらの半球も頭蓋骨の中にそのまま残り続けるんだと思うんだけど。高密度二次元電極アレイの先は無線になるのかな。

６章 　「わたし」は「わたし」であり続けるか

アップロードされても人格の同一性は保たれるのか。
本章では、良いアップロード（漸進的破壊性アップロード）、悪いアップロード（灌流固定方式）、普通のアップロード（生体脳半球・機械半球接続）の３つのアップロード方式を比較する形で検討している。

• 良いアップロード（漸進的破壊性アップロード）

フェーディング・クオリアをもとにした方式。ニューロンをナノマシンに置き換えていく。
心理学的連続性という意味ではもっとも優れている。
「不可能だという点に目をつぶればよぉ～」（とは本文には書いてない、念のため）
技術的には実現可能性が低すぎる、と

• 悪いアップロード（灌流固定方式）

灌流固定された脳から侵襲コネクトームをつくる
神経配線構造を読み取るという点ではもっとも精度が高い。しかし、（死後に読み取るので）配線の強度は十分読み取ることができない
そもそも一度活動停止した脳からアップロードしようとしたって、それは連続性絶たれてんじゃないのか、と。

• 普通のアップロード（生体脳半球・機械半球接続）

記憶の転送が完全なら、漸進的破壊性アップロードと同様、心理学的連続性は保たれる
では、その問題となる記憶の転送についてだが、５章にあったとおり、エピソード記憶の転送手法についてはアイデアがあるが、意味記憶や手続き記憶について、現状難しいのだという（アイデア募集中と書かれている）。
一般的なものを学習させて補う、とされているが、無論その点で、心理的連続性の一部が損なわれてしまうことを、筆者は潔く認めている。
漸進的破壊性アップロードと比較して、実現可能性がある、というところでのトレードオフとなる。

７章 　アップロードされた「わたし」は自由意志をもつか

本章はタイトルにあるとおり
ロバート・ケインという哲学者の議論をもとに展開されている。
この章については、ちょい省略

この中で２種類の行動選択として、搾取行動（exploitation）と探索行動（exploration）とあった。
まあ訳語の問題なんだけど「搾取？」となって、ちょっと分かりにくい。
これ、鈴木貴之『人工知能の哲学入門』 - logical cypher scape2で「探索と活用（exploration and exploitation）」となっていたものではないかと思う。

８章 　そもそも意識とは

ネーゲルによる意識の定義
→そのものになってこそ味わえる感覚
→ある対象が意識を有することの必要十分条件とは、そのものになったときに何らかの感覚が生じること

ライプニッツの「風車小屋の思考実験」
これは、仮に意識が生じる機械があったとして、その中に構成要素を見ても意識を見つけることができない

９章 　意識を解き明かすには

従来的な意識研究の例として、ロゴセシスの両眼視野闘争研究が紹介されるが、従来的な研究は、意識があることが前提になっていて、意識そのものの解明としては適当ではない、として、以下の方向へ進む。

• 自然則

意識のハードプロブレムをソフト化するには「自然則」の導入が必要、というのが筆者の立場
ここでいう自然則とは、光速度不変の原理など、自然側でそのように定まっていて、それ以上理由を問えないようなもの。
自然則は、それ以上の理由は問えないが、本当にそうなのかは検証できる
（光の速度が不変なのが何故なのかは分からない（世界の方でそのように決まっている）が、本当に光の速度が不変なのかどうかを検証することはできる）
意識の自然則も検証が必要。

• 意識の自然則の検証実験

生体脳での実験
→どの側面が意識を生むのか検証するためには、該当する側面だけをオンオフしないといけない。生体脳でそれは無理
人工物での実験
→「哲学的ゾンビ」問題と「風車小屋の思考実験」問題がある
→人間の脳とつないで確かめるしかない
スレーブデバイス問題
→単に機械をつないでもだめ。CCDを脳につないだ実験はすでにある。映像が見えたからといってCCDに意識があるとはいえない（CCDは単なるスレーブデバイス）
→ヒントは分離脳
→生体脳半球と機械半球をつないで、機械半球側の視野が見えたとする。機械半球がスレーブデバイスの可能性はない
→何故なら、半球同士をつなぐ神経連絡にそんな容量はないから

１０章 意識の自然則の「客観側の対象」

意識の自然則＝「脳が斯々然々の振る舞い（客観）をすると、意識（主観）が生じる」
客観側の候補はNCC

• NCCについて

「意識の神経相関（NCC)」は、相関と訳されているが、単なる相関関係ではなく、さらにいえば因果関係よりも強い関係が要求されている、と。
例えば、眼球の活動と意識の間には相関関係も因果関係もあるが、眼球はNCCではない。なぜなら、夢を見ているとき、眼球がなくても意識が生じているから。

• NCC候補を検討

というわけで、以下、意識の統一性の観点からいくつかの候補について検討している。
そういえば、意識の統一性ってウィリアム・ジェームズ由来なんだな、と。

• 樹状突起（エドワーズ）

極端な説から。
意識は統一性がないといけない→情報の集約が必要→脳で情報が集約される場所……樹状突起だ！　という説
脳内には無数の樹状突起があるのでは、という疑問に対しては、無数の意識が発生しているのだ、と答える。
一つの樹状突起に集まってくる神経線維の数の割合を考えると、情報集約の程度が足りないし、厳密に空間の一点に集まってくるわけではない、という問題がある

• 量子脳理論（ペンローズ＆ハメロフ）

量子脳理論にもいろいろなバージョンがあるらしいが、ここでは最も有名なペンローズとハメロフのマイクロチューブルの奴
問題は量子もつれの持続時間が短すぎること。感覚刺激が意識にあがってくるまでの時間、もたない
近年、植物の光合成や渡り鳥の磁場検知に量子もつれが使われていることがわかってきているが、これらは持続時間が短くてすむので矛盾しない、と

• 情報の二相理論（チャーマーズ）

情報に関する説を二つ。一つ目はチャーマーズ
意識の統一性については放棄している

• 統合情報理論（トノーニ）

こちらは、意識の統一性から当然導かれるもの
なお、本書では補足的なコメントとして、統合情報理論が物議を醸す理由として、中心的なメンバーがこれを当然の公理として扱っていて検証実験すら不要、という態度をとっているから、というのが書かれていた（日本の研究者はそうではない、とも）。

１１章 意識は情報か 神経アルゴリズムか

筆者は、意識の自然則の客観側を担うのは、情報ではない、と考えている。
この章では、情報が不適当である理由（アルゴリズムがふさわしい理由）が論じられている。

• 場所コーディング

脳の情報表現の方式
例えば聴覚
周波数帯域は蝸牛で分解されて、それぞれ違うニューロンを刺激する。つまり、周波数の情報はどこのニューロンが反応したか、という場所によってコードされる
音の位相情報は、電気スパイクのタイミングで記録される。これは蝸牛においては時間コーディングだが、次にオリーブ核に到達するタイミングの違いで、オリーブ核のどこのニューロンが刺激されたか、と場所コーディングされる。
聴覚に限らず、すべての感覚モダリティが場所コーディングによって情報化されている。

• 感覚モダリティの違い

すべての感覚モダリティが同じ方式でコーディングされているので、どんな専門家が見ても、脳のニューロン活動を見せられただけでは、それがどの感覚モダリティの情報かはわからない。
しかし、主観側において、視覚、聴覚、触覚、嗅覚といったモダリティは、それぞれ異なる現れ方をしている。
もし、意識の自然則が、「脳の情報（客観側）が意識（主観）となる」というものである場合、縮退している客観側を、モダリティごとに選り分ける「黒魔術」が必要になってしまう、と。

• 神経アルゴリズム

主観側で異なっているものは客観側も異なっているのが望ましい。
視覚、聴覚、触覚のアルゴリズムは異なる目的で動くので、異なるものになるはず
また、アルゴリズムが個々のニューロンをまとめてくれるので、その点で、統一性も担保される、と。

１２章 意識の「生成プロセス仮説」

筆者は、自然則の客観側にくるアルゴリズムの有力候補として「生成プロセス」を挙げる。

• 「意識の仮想現実メタファー」（アンティ・レボンスオ）

筆者は、自分は意識が機能を持つかどうかには中立的な立場をとる、が、仮想現実には機能がある、とする
つまり、脳内仮想現実は、反実仮想的に状況の予想などに役立つので、適応的であり進化の中で獲得された、と。意識はそのオマケではないか、と。

• 生成モデル

90年代に、川人光男、乾敏郎、デイヴィッド・マンフォードがそれぞれ独立に提案したもの
生成プロセスと誤差フィードバックの二つの仕組みからなる。
「生成プロセス」
CGのレンダリング過程に喩えて説明している。
まず、記号的表象がある。これは、モノの種類、モノの特性（形状や光吸収反射特性など）、光源の特性を含む。
記号的表象をもとに、三次元化したりテクスチャを貼ったり光源をあてたりする
さらに仮想カメラがあって、この内なるカメラから見た像として投影する。
「誤差フィードバック」
生成プロセスによって作られた仮想現実と現実世界の同期をとるしくみ
例えば、夢においては、現実世界との誤差フィードバックはとっていないはずだが、意識は発生していることから、誤差フィードバックの方はNCCではない、としている。

• 意識の自然則の一般化

生成プロセスの本質とは「モデル化」である、として以下のように一般化している
「システムAがシステムBをモデル化したとき、システムAにシステムBの主観体験が発生する」

• 感想

意識とは何か、については、この章が肝だろう。
気になったことを２つ
まず、些細な点から
「内なるカメラ」というのが出てきたけど、これはレンダリングというか仮想現実を作る際の視点位置の情報、くらいのもの、という理解でいいんだろうか。
記号的表象にはたぶん、そのモノが上から見たら丸い形していて、横から見たら四角形になっているみたいな情報が含まれていて、仮想現実を生成する際には、例えば右上から見た場合の情景を生成するという形で生成されていくのだろうから、その「右上から見た」ということを指定するのが「内なるカメラ」ということなのだろう、と理解した。
ということをわざわざ書くのは、「内なるカメラ」という言葉だけだと、すわホムンクルスか、という早とちりした誤解も招きかねないのでは、と思ったから。

もう一つは、一般化された意識の自然則について
まず、生成プロセスによって生成された仮想現実が意識経験の内実だろう、ということは、わりと納得できる話なのだけど
それを「モデル化」とまで一般化・抽象化されると、疑わしくなる。
例えばこれだと、台風のシミュレーションは台風についての主観体験をしているとか、どこかの地形や地区の模型はその地形や地区についての主観体験をしているとか、そういうことが帰結しかねない。
無論、そんなことはないだろう。
「システムAがシステムBについての生成プロセスを有する時、システムAにシステムBの主観体験が発生する」というのはとりあえず正しいとして、
また、生成プロセスがモデル化の一種であることも正しいとして、
しかし、一言でモデル化といってもいろいろなモデル化があるので、「システムAがシステムBをモデル化したとき、システムAにシステムBの主観体験が発生する」とまでいってしまうと、さすがに言い過ぎなのでは、と思う。
「これこれこういうモデル化をしたとき」と、何かもう少し限定が必要な気がする。
あるいは、システムAの方に何か条件が必要になるか。
うーん、ただこれは、新書という形式で書かれているために、わかりやすさが優先されてこのような書き方になったのかもしれない、という可能性もあるなとは思っている。
本書、全体的に、新書というフォーマットにあわせて、わかりやすさを優先して書いていそうだな、と思われるところがある。それ自体は決して悪いことではない。
ただ、そうすると、どこ読むと、これをより厳密に定式化したものがわかるのか、というリファレンス情報が欲しかったかもしれない。

そうなると、「生成プロセス」とは一体何なのか、ということももう少し詳しく知りたくなってくる。
このあたりも、どのあたりを次に読めばいいのか、というのがいまいち分からないんだよな、と。
実際、名前の挙がっている乾敏郎とかって、本書ではNCCじゃないって切り捨てられた「誤差フィードバック」の方にこそ注力しているような気がして、そっちの方は調べたらすぐに色々出てくるような気がするのだが。

さて、単に「モデル化」だけだと抽象度が高すぎるので、もう少し限定する場合、実は「内なるカメラ」が重要だなと思い始めた。
つまり、台風のシミュレーションや地形の模型は、「内なるカメラ」を持っていないので。
ところで先ほど「内なるカメラ」は、視点位置の情報くらいのものだろうと述べた。つまり、それはそういう「薄い」概念なのではないか、と。
逆にこれを、例えば、内なるカメラ「から見ている」などと言ってしまうと、「厚い」概念になってきて、ホムンクルス化してしまう気がする。ホムンクルスは無限後退を引き起こすのでよろしくない。
しかし、ここはある程度大事なところだと思う。
つまり、意識経験が「主観的」であると言われるのは、それが「一人称的」な経験だからである。
台風のシミュレーションや地形の模型は、台風や地形をモデル化しているけれど、それだけでは主観的な体験をしているように思われないのは、シミュレーションや模型には「一人称」的な要素がないからで、つまり、シミュレーションや模型は、何かを体験するような主体ではないと思われるから。
しかし、例えば「内なるカメラ」こそが、何かを体験している主体なのだ、などと口走ってしまえば、そのカメラの中にまたカメラが、という無限後退を引き起こしかねない（ホムンクルス問題）。
ところで、上でこの章のまとめをするときに省略してしまったのだが、この章では、システムAはシステムA自身をモデル化することもある、ということも書かれている。
脳は脳自体もモデル化している。これがうまく働かないと、例えば、恐怖に伴う身体反応は起きているのに、恐怖の感情が起きないということがある。
自分自身のこともモデル化して、モデル内に統合していること、というのは「主観的な」意識にとっては重要な条件なのではないだろうか、と思った。
つまり、一般化すると、「システムAがシステムBをモデル化しており、かつ、システムAがシステムA自身についてモデル化しシステムBのモデルと統合している時、システムAにシステムBの主観体験が発生する」とか。

渡辺正峰『脳の意識機械の意識』 - logical cypher scape2では、「モデル化」という言葉は使われておらず、因果関係の取り込み、という表現が使われていた。
ただ、個人的に上の疑問は、因果関係の取り込み、という言い方をしても同じかな、とは思う。
前著では「このことから、自動運転車には現象的意識が生じているのでは、とも述べている」ようで、やはり一般化しすぎると、かなり広汎に意識が生じていることになってしまうな、と思う。自分の機能主義者なので、人間以外にも意識が生じる可能性は否定しないものの、既存の人工物にも意識がすでに生じている可能性は限りなく低いのではないか、と思っている。
*1
ところで、渡辺正峰『脳の意識機械の意識』 - logical cypher scape2を読んだときの記事では、鈴木『ぼく原』を読んだばかりだったこともあって、鈴木説と整合するかどうかを考えていた形跡があるのだが、表象説って渡辺的には情報説の一種くらいのものなのではないだろうか……
うーん、というか結局、表象なるものがどう神経系で実装されているかが問題で、鈴木のいう表象システムは、渡辺がいうところの生成プロセスとして実装されるのだ、と考えれば両立可能か。

１３章 意識の自然則の実験的検証に向けて

前章までで導かれた意識の自然則を、次は、検証しなければならない。
9章では、その検証方法として、人工物に意識を発生させて、生体脳と接続する案が提案されていたが、これをより具体化する。

• 機械脳をつくる

まず、これについては第６章で悪いアップロードと評された灌流固定方式による侵襲コネクトームを利用させてもらう、という。
これによってまずは、定性的な配線構造をデジタル化する。
しかし、第６章で述べたとおり、これだけでは定量的な配線構造がわからないので、意識を生み出すには不十分
そこで、学習させる
生成モデルは「自己符号化器」でもあるので、教師なし学習ができる
高次の記号的表象や視覚世界のルール（生成プロセス）を学習させる

• 半球の接続方法

生体脳と機械脳のどこをつなげばいいのか
ガザニガによる脳梁離断術を参考とする
高次の視覚野同士さえ結合すれば、統合された一つの視覚的意識が生じるはず
生成プロセス仮説にもとづくなら、これは記号的表象を半球間同士で共有することに相当する

• テーブルへの置き換え

動物実験でできるだけひっぱったのち、最終的には自らの脳で行いたい、というのはまあ以前から言っている通り
でまあ、接続して機械に意識が発生していることが確かめられたとする。
次に、本当に生成プロセスが意識なのかを確認するための実験として、機械脳の生成プロセスを、ルック・アップ・テーブル、つまりは入出力を記録した表に置き換えてしまう方法を提案している。
生成プロセス仮説が正しければ、表に置き換えた途端、機械脳側の視野が消滅するはず。
もしそうでなければ、別の何かが意識を生んでいることになる。

ところで、この接続テストのアイデアについて、筆者はコッホやサールに披露する機会があったらしく、彼らから有効性を認めてもらった旨記されている。

• 感想

これまた些細な話であるが
筆者は「意識のハードプロブレム」と「説明のギャップ」を同義語のように使うのだけど、個人的な理解では、このふたつは少しレベルが違う。
意識のハードプロブレムは、客観と主観の間にはなんかギャップがあるので、そのギャップのせいで問題がハードになっている、という話
これに対して対応の仕方がいくつかあって、
ギャップはないという立場
それは説明のギャップのせいであるという立場、
認識論的ギャップというギャップがあるという立場、
存在論的ギャップというギャップがあるという立場、
にわかれるんだと思っている。
ギャップはないとか、説明のギャップであるという立場にたつと、問題はソフト化してくれる。
ところで筆者は、最終的には自分自身の脳を接続して確かめる必要がある、ということを常に訴えているが、これは問題の所在が、説明のギャップにあるのではなく、認識論的ギャップとして捉えているからではないか、と思えてならない。
渡辺正峰『脳の意識機械の意識』 - logical cypher scape2の時も、自分は以下のように述べている

その機械と接続すれば、その機械に意識が生じているか確認することができるのでは、ということを言いだし、本当に確認出来るかの検証を始める。
ところでこれって、タイプＢ物理主義なのでは、という気がする。
タイプＡ物理主義ないし還元主義的な立場であれば、生成モデルが成立している＝現象的意識が生じているということなので、前者の検証で後者の検証も尽きていると考えるのでは。
現象的性質は、一人称的視点からしか知ることができない、がゆえに、一人称的に知る方法を考えよう、という話になっているので。

タイプA物理主義は、ギャップは存在しないという立場
存在論的ギャップはないが認識論的ギャップはあると考えると、タイプB物理主義になる。
もっとも、この手の哲学的な立場の整理が、意識の科学にとって何か役に立つんですか、ということはできて、その点ではやはり些細な話ではある。
逆に、哲学側からみると、心の哲学では、タイプB物理主義は穏健な立場だとは思うけど認識論的ギャップって物理主義にとって本当に無害なんですか、というのを色々議論していたけれど、この筆者は、そのギャップを、BMI使って直接接続して確かめてみればいいんじゃ！　という力業で潰してしまおうとしているのが、面白いんだ、と言えるかもしれない。

１４章 ＡＩに意識は宿るか

この章は、最近話題のLLMについてもコメントしておくか、という感じで、オマケっぽい章である。

ChatGPTの誕生は色々インパクトを与えているが、例えば、生成文法への打撃もあったらしい。つまり、言語能力の生得性への疑いの点から

LLMは意識を持つ、という主張もあったが、どうか
ここでは「中国語の部屋」やそれに対するロボット・リプライ、サールの再反論、記号接地問題、フレーム問題などが紹介されているが、筆者としては、LLMに生成プロセスを組み込んだ場合、仮想世界内で記号接地が行われ、暗黙知も獲得でき、意識も生じるとしている。
まあ、筆者としては、意識というのは生成プロセスに他ならないので、LLMだろうと何だろうと、生成プロセスがあれば意識があるし、なければ意識はない、ということだろう。

• 生体脳と人工神経回路の違い

連続時間-離散出力（0か1かの電気スパイクを任意の時間に出力）か
離散時間-連続出力（一斉に出力を更新、出力値は連続した値）か

１５章 意識のアップロードに向けての課題

生体脳の理解において足りていない部分（今後の研究課題）をいくつか取り上げている。
補論という感じだが、脳内クロックを明晰夢使って調べる実験が面白かった

• 脳における時間処理について

脳には内部クロックがあるのか
「リアル・ワゴンウィール・イリュージョン」
回転する車輪を見ている時、その回転数が増えると車輪が逆回転しているように見える錯覚
映像の場合だとコマ数の関係でそう見える、あるいは点滅する光源のもとでそう見えるのも不思議なことはない（フィルムのコマや光源の点滅がクロックとなっている）。
しかし、太陽光下の実物の車輪でも起きる
→脳の側に内部クロックがある
しかも、遅い。10ヘルツ程度
でも、実際には世界はパラパラ漫画のように見えてはいない。五次視覚野という高次視覚野が200ヘルツ程度の高速なクロックを付加している。五次視覚野が欠損すると、世界はパラパラ漫画のように見える、らしい。

明晰夢実験
夢の中でも同じクロックが動作しているのか。
（ここで映画『インセプション』などが例示され、夢の中では時間の進みが遅くなっているのか？　という疑問が呈される）
スティーヴン・ラバージが、明晰夢を見れる人たちを集めて、これを確かめる実験を行った。
明晰夢の中で数を数えてもらったり、スクワットをしてもらったりする。
実世界での経過時間と比較する（ちなみに眼球運動をしてもらうことで、数を数える動作の開始と終了を夢の中から外へと伝えてもらうのだという）
結果、夢の世界の中での時間経過と、実世界での時間経過は、大体同じくらい、らしい
ただし、身体動作が伴うと遅くなる
夢の中では身体からのフィードバックがなくなるためではないか、と推測されている。
筆者は、夢の中で体をうまく動かせない例を挙げている。それは確かに、自分にも覚えがある感覚だなと思った。
内部クロックが、脳内にあるっぽいことはわかるが、具体的にどの神経回路が担っているかなどはよくわかっていない。
機械脳にクロックを与えるために、そのあたりの機序解明が必要、と。
ちなみに、筆者の過去の研究エピソードが挿入されていて、下條研で、現アラヤの金井良太と一緒だったことが書かれている。で、隣のコッホ研には土谷尚嗣がいたらしい。

• 脳の仕組み

機能主義か非機能主義（生物学的自然主義）か
グリア細胞や神経伝達物質についても検討している
同じ機能を持つ人工物に置き換えたらどうなるのか、という思考実験をしている。
機能的には置き換えても問題ないはず
意識が、例えば生体細胞や化学物質でないと生じないとすると、意識が神秘的なものになりすぎなのでは、と。
まあ、ここらへんは実際にやってみないとわからんなーという話でもあり、実際、作者自身も、機械脳半球を開発することで、どっちが正しいかが検証できるはず、としている

• 機械半球に求められるもの

脳に接続する必要があるわけで、そのためには「脳語」に堪能である必要があるという
ニューロンが電気スパイクを発することが必要
前の章の最後に述べられたように、現在、生体脳と人工神経回路は、連続時間-離散出力か離散時間-連続出力かという違いがあり、これは形式をそろえる必要がある、と。
また、ニューロンには種類の違いがあって、放出する神経伝達物質や受容する神経伝達物質が違ったり、電気スパイクの発生のさせ方が違ったりする。それらも反映させる必要がある。

１６章 20年後のデジタル不老不死

最後の章は、意識のアップロード研究と社会との関係について

• 研究開発の途上で実った果実の社会還元

→プライマリーターゲットとして認知症治療を想定
海馬のAIチップ開発はすでに行われ始めている
筆者の考える神経束断面計測型BMIにより、海馬チップと脳とを接続する（灰白質へのBMIではなく）

• 研究開発の速度

BMIのハードウェア開発は10年でできると考えているが、意識のアップロードは普通にやってるともっとかかる
単一の研究室だけでやってたら、マウスの生体脳半球と機械脳半球接続で15年はかかる
ここで筆者が参考にしているのが、ポール・アレンが設立したアレン研究所
資金と人材が大量に投入されていた。アレン研究所と同規模のリソースを自分のプロジェクトにつっこめるなら、10年でサルの実験まで進める、と

ところで、おそらく前著と本書とでの一つの大きな違いとして、筆者がベンチャーを創業したりして、金策とかをかなり意識するようになったところがあるのではないだろうか。
この章も、日本ってベンチャーがなかなか大きくなれなくてイノベーションが起きにくくなってるよね、みたいなことを結構書いてたりする。

エピローグ

以前、浦出美緒『死ぬのが怖くてたまらない。だから、その正体が知りたかった。』 - logical cypher scape2で、仮にアップロード技術が実用化したとしても、サーバ維持とかで経済的な格差の問題が出てくるのでは、と軽くコメントした。
筆者も当然そのあたりのことは認識しているようで、本書では時々そういう（イーガン『順列都市』をたぶんに意識した）ことを示唆する記述があるが、エピローグでは、
アップロード後の世界でも労働必要だよね、という話と
筆者としても、富裕層だけがアップロード技術を利用できるというのは避けたい、ということが述べられている。
後者についてはあくまでも、筆者がそうしたいといっているだけで、具体的なことは書かれていないが、それはもう神経科学の話ではないので、別の専門家による全く別の検討が必要になる話だろう。

最後に突然、斎藤幸平『人新世の「資本論」』に感動した、という話が始まってちょっとびっくりするのだが
アップロード後の世界の設計として、メタユートピアっぽいものを考えていることが書かれている（様々な社会システムの仮想世界（その中の一つが斎藤幸平式ネオ共産主義世界）を作り、どの仮想世界にもいけるようにする。どの社会システムがもっともよいか、そのまま社会実験できるんじゃね、という話）。

あとがき

筆者の学生時代の進路選択の話がされていて、紆余曲折あって神経科学の世界に入ってきたことがわかる。
当初は宇宙に興味があってNASAに入りたかったらしい。大学３年の進路選択では航空宇宙系の学科に希望を出すが、結果は原子力工学。核融合ロケットがあるよと唆されるが、実際にはそんな研究はなく。で、カオスの授業をとった際に、手に取ったのが合原一幸『カオス』。この本でカオスニューラルネットワークについて知り、それで一旗揚げてやろうと考えて研究を始めたところ、甘利－合原研に入ることができたという。
甘利研にいたんだ、この人
あ、前著でカオスの話している？！

決定論カオスによって、神経回路上のすべてのニューロンが「因果性の網」にとらえられるという言い方をしている。
ところで、甘利俊一『脳・心・人工知能』 - logical cypher scape2でも、脳ではカオスが発生しているのでは、そしてそのカオスを何かに利用しているのでは、という話がなされている
渡辺正峰『脳の意識機械の意識』 - logical cypher scape2

それから最近は、信原幸弘との共同研究もしているっぽい。ってそういえば対談本あったな。