１．はじめに
米OpenAIは8月7日、生成AIのChatGPTについて、これまでのGPT-4oに代えて、次世代AIモデル「GPT-5」をリリースしました。同社によると、GPT-5は “博士並みの知能持つ友人”であるそうです。ところが興味深いことに、ネット上では多くのユーザーから「私の家族・友人の4oを返してほしい」という趣旨の意見が多く見られています（ #keep4o ）。
・ChatGPTに「4o」を返して--「keep4o」運動が話題 新モデル不評？ アルトマン氏も対応表明｜CNET Japan
２．生成AIは「個人の自律」や「自己決定」を阻害するのではないか？
この、#keep4o の動きは、GPT-5に比べてGPT-4oの方が、ユーザーの問いかけに対してより親切・丁寧に人間的な対応をしてくれるのでGPT-4oを返してほしいというもののようですが、例えば憲法的に考えるなら、「AI依存は個人の自律や自己決定を阻害するのではないか」という問題があるように思えます。
ChatGPTやCopilotなどの生成AIが優秀で親切な24時間対応してくれる相談役・カウンセラーになればなるほど、私達人間は、思考や判断の一部を生成AIに委ねるようになると思われます。これは一見すると人間の能力の拡張であるようでいて、その一方で、憲法が重視する「個人の自律」や「自己決定」との関係で問題をはらんでいるように思えます。
３．松尾剛行『生成AIの法律実務』
この点、AIに詳しい弁護士の松尾剛行先生の『生成AIの法律実務』（2025年）220頁以下は、まず、例えば日々の食事のメニューなどのルーティン的自己決定を生成AIに委ねることは、人間を日々のルーティンワークから解放し、より質の高い生活を実現させる可能性がある一方で、例えばそれがスーパーマーケット等の事業者のステルスマーケティング的な宣伝活動に乗っ取られてしまう危険（第三者の誘導の危険）があることを論じています。
さらに同書は、日々のルーティンワーク的な自己決定でなく、自分がどのような職業に就くのか、どのような人生の道を選択するのか等の、重要な自己決定を生成AIに委ねることについては、「重要な自己決定をすべてAIに委ねる人間が果たして＜自律的な個人＞といえるのか、という点は今後重要な問題となり得るだろう」と指摘しています。
４．個人の自律・自己決定・民主主義
憲法13条は、「すべて国民は、個人として尊重される。生命、自由及び幸福追求に対する国民の権利については、公共の福祉に反しない限り、立法その他の国政の上で、最大の尊重を必要とする。」と規定しており、「個人の尊重」と「幸福追求権」は非常に重要な人格的利益です。
ところが人々が、生成AIに何でもかんでも頼るようになってしまったら、個人が自己の価値判断を行う場が減少し、憲法的に保障されるべき個人の「人格的自律」が形骸化してしまうおそれがあります。また、さまざまな選択肢があるのに実質的には生成AIが回答する方向に人間が流されることは、実質的な自己決定の行使とは言えないという問題もあります。
さらに、これが私的な自己決定ではなく、選挙・投票などに関する判断や選択であった場合、これは生成AIによる民主主義・国民主権の乗っ取りや形骸化などの危険があるということになるのではないでしょうか。
５．まとめ
このように、少し想像をたくましくして考えてみると、生成AIがどんどん便利で優秀に人間的になり、人間がそれに頼るようになると、個人の自律、自己決定や、果ては民主主義との関係で問題が発生してしまうように思われます。
2019年に内閣府が公表した「人間中心のAI社会原則」は、①人間の尊厳が尊重される社会、②多様な背景を持つ人々が多様な幸せを追求できる社会、③持続性ある社会、の３つの基本理念を掲げていますが、今回のGPT-4oの問題は、そのうちの①の理念が早くも阻害されるおそれが顕在化しているのではないでしょうか。
生成AIを研究開発する企業や、各種のAIサービスを提供する企業、そして生成AIを利用する我々エンドユーザーは、これらのリスクを視野にいれて行動する必要があるのかもしれません。
