生成AIの心的状態については美学や倫理学の分野で盛んに議論されている問いである。話を簡単にするために、ここでは心的状態の中でも特に「意図」にフォーカスしよう。
少なくとも美学まわりの研究においては、（生成）AIは「信念、感情、意図といった心的状態をもたないという点については広く合意されている」（Anscomb 2025, p. 3421）。よしんばChatGPTの出力に「日本史の解説をしようとする」「プロンプターに明治維新の概要を理解させようとする」「プロンプターを喜ばせようとする」といった意図があらわれているようにみえたとしても、じつのところChatgptは次にくる言葉を統計的に予測しながら文章を構築しているだけであり、その意図は見かけにすぎない、というわけである。同じようなことは画像生成AIなどの他の種類の生成AIにも言えるだろう。意図（をはじめとした心的状態）がないという主張は、たとえば「生成AIは道徳的判断ができない」とか、「道徳的配慮の対象にならない」「作者にはなれない」といったさまざまな帰結を導くための、少なくともひとつの正当化につかわれたりする。
さて、生成AIの意図を否定するひとは、そのメカニズムを指摘することで自身の主張を正当化しているようだ。つまり、「見かけ上は意図っぽいものがあらわれているようにみえるけど、実際にはそれはしかじかのメカニズム（←コンピュータサイエンスの用語によって説明される）の産物である」と暴露することで、意図の存在について懐疑的な立場を取ったり、非存在を主張したりするわけだ。
こうした論法は、一般に「暴露論証（Debunking Argument）」と呼ばれる。道徳的信念（たとえば「殺人は悪いことだ」）についての暴露論証は「道徳的信念だとみなさんが思っているものは、実はその存在にコミットしなくても進化論的に説明可能なんですよ」と主張してその信念の正当化を否定し、趣味についての暴露論証は「あなたが西洋古典が好きなのって、一見してご自身の美的判断の産物のようにみえるかもしれませんが、その実は植民地主義の産物にすぎないんですよ」と水を差す*1。
上で見た、コンピューターサイエンスの知識を駆使した主張も暴露論証の一種と言えるだろう*2。そこでこの論証を、生成AIの意図についての「プログラマー的暴露論証（Programmer’s Debunking Argument、以下PDA）」と呼んでおく。
生成AIの意図についてのプログラマー的暴露論証：生成AIのメカニズムをコンピュータサイエンスの観点から指摘することで、その意図の存在を懐疑したり、非存在を主張したりする論証
では、PDAはどのような論証なのか。
意図についてのPDAの論証パターンはだいたい以下のような具合だ。
(1) 生成AIのメカニズムはしかじかであるというコンピュータサイエンス的説明は正しい。
(2) (1)が正しければ、生成AIの意図のようにみえるものは、意図の存在にコミットすることなく説明できる。
(3) (1)(2)より、われわれは生成AIが意図をもつと考える理由をもたない。*3
たとえば van Woudenberg et al. (2024) は、ChatGPTが意図をもつとは言いがたいことの理由として、次のように述べている。
ChatGPTがものを「書く」とき、それは自身のトレーニングデータにおける特定の単語や単語ペアの［出現］確率をかんがみて、シークエンスごとに統計的なランキングに基づいて次の単語を推定していくことでおこなわれている。このプロセスの説明のためには、べつにChatGPTに知識・信念・意図を帰属する必要はないようにおもわれる。(van Woudenberg et al., 2024, p. 34)
また、Ch’ng (2019)も次のように述べる。
事実として、機械は感情も意図も持たない——少なくとも現時点では。(…)「Edmond de Belamy」という作品は敵対的生成ネットワーク（GANs）と呼ばれる機械学習アルゴリズムによって生成された。このGANsは14世紀から20世紀にかけての15000点の肖像画のデータセットを学習し、生成器と識別器という二部分からなるアルゴリズムを用いてひとつの作品に至った。このとき、生成器は新しい肖像画を制作し、識別器は人間が制作した肖像画と機械が生成した肖像を見分けようとするのだが、ここでの目的は識別器を「これは人間が制作したものだ」と誤認させることにあった。こうした生成器や識別器は、擬人化できるものではない。それはあくまで、機械学習がとる、人間の作品と判定される絵画を生成するための最適化の戦略なのだ。(Ch'ng 2019, p. 7)
こうした論法はPDAの典型であり、研究論文のみならず、パブリックな領域でもよくみるものだ。たとえばChatgptを友達や恋人として扱っているひとを冷笑する際にはこうした論証が有効かもしれない。
ただ、次のような反論をすることは可能である。
可能な反論：生成AIがあたかも意図をもつように振る舞っているとしても、じつはそこには科学的なメカニズムがあるのだということはわかった。しかし、人間の意図だって、まだ全貌が解明されていないだけで、完全に科学的に説明可能かもしれない。ということは、科学的に説明できるメカニズムがあるということじたいは、生成AIの意図を否定する理由にはならないだろう。なぜならば、もしメカニズムを理由に生成AIの意図を否定してしまえば、それは人間の意図も否定することになるからである。別に恋が科学的に説明できたとしても、べつに恋概念を消去する理由にはならないのとおなじことだ。
これに対して、PDAは次のように切り返すかもしれない。
可能な再反論：たしかに、メカニズムが科学的に説明できるということじたいは、生成AIの意図を否定する理由にはならなさそうだ。しかしながら、生成AIはコンピュータサイエンスによって説明される一方で、人間はそうではない。つまり、メカニズムのあり方やその説明の仕方が、生成AIと人間ではぜんぜんちがうのだ。したがって、われわれは次のようにいうことができる。すなわち、生成AIは、人間のもつような意図をもたない。
これはまあ妥当だろう。しかしながら、これはけっこうしょうもないやりかただと思う。そもそも生成AIに人間のもつような意図がないことなんて、コンピュータサイエンスの知識が皆無でもすぐに言えることだ。たとえば、「人間のもつような意図の必要条件として、心的表象がある。そして生成AIはどう考えても心的表象をもたない。したがって生成AIは人間のもつような意図をもたない」というように。
私がここでしょうもなさを感じるのは、こうした論法が以下のような受け答えにきこえるからである。
Q：生成AIに人間のもつような意図はありますか。
A：ないです。なぜなら生成AIは人間ではないからです。
このしょうもなさを回避するためには、そもそもPDAをなんのために展開しているのかに自覚的になればよいかもしれない。たとえば、「生成AIは芸術家になれるか？」という問いについて考える際にPDAを展開しているひとは、次のような論証をおこなえるかもしれない。
(1) 芸術家になるための必要条件として、〈人間のもつような意図〉にありえる特徴のうち、「自分で目的を設定し、それを遂行しようとする」という特徴をもつことがある。
(2) 生成AIは自分で目的を設定できない。
(3) (1)(2)より、生成AIは芸術家になるための必要条件を満たさない。
これは、先ほどのずるい問答における「意図」を、それを持つための複数の必要条件に腑分けして、そのうち一つを持つかどうかを議論する、という具合になっている。
論証構造は、上で示したPDAの典型とはすこし異なり（実質的には同じかもしれないが）、次のようになっている。
(1) 意図概念の必要条件はしかじかである。
(2) 生成AIは(1)を満たすことができない。
(3) (1)(2)より、生成AIにはじつは意図がない。
ここで注目すべきは、もはや生成AIに意図があるかどうかじたいはあまり問題になっておらず、意図のもつひとつの特徴にフォーカスした議論になっているということだ。目的（ここでは生成AIは芸術家になれるかを検討するというもの）に照らした上で、「生成AIに意図があるか」という問いの形をより具体的なものに変形して、その具体化されたバージョンに答えれば、先ほどのしょうもなさ、論証のトリヴィアルなかんじ、つまらなさを抜け出せるかもしれない。
実際、多くの研究者はそのようなしかたで、生成AIは心的状態をもつのか問題に真正面から当たるのを回避しているようにみえる。たとえば「内実はさておいて、見かけに基づいて考えればいいんじゃないですか」「内実はさておいて、意図的スタンスをとればいいんじゃないですか」「内実はさておいて、その行動がどういうものかを考えればいいんじゃないですか」というように。
教訓：生成AIに意図があるかどうかだけ議論していても実のある議論にはならなさそう。
あとがき
PDAについてはそりゃそうだろうくらいに思っていたが、先日の勉強会で自分の研究（PDAを含んでいる）をみてもらったときに、ざっくりいえば「恋が科学的に説明されたとしても恋じたいはべつに消えないし、生成AIの意図がコンピュータサイエンスで説明されたとしても、それはその非存在を主張する理由づけにはならないのでは」みたいな批判をいただいて、反省するきっかけになった。というのがこの記事の来し方。
応哲で生成AIの作者性について論じます。これが行く末。
参考文献
Anscomb, C. (2025). AI: Artistic collaborator?. AI & Society, 40, 3419–3429.
Ch’ng, E. (2019). Art by computing machinery: Is machine art acceptable in the artworld? ACM Transactions on Multimedia Computing, Communications, and Applications, 15(2), 1–17.
van Woudenberg, R., Ranalli, C., & Bracker, D. (2024). Authorship and ChatGPT: A conservative view. Philosophy & Technology, 37(34).
笠木雅史（2019）「進化論的暴露論証とはどのような論証なのか」，蝶名林亮（編）『メタ倫理学の最前線』pp. 183―216，勁草書房．
