2026年は1984なのか ― AIと国家、そして合法の解釈権

Leica M10P, 1.4/50 Summilux ASPH, RAW

米国防総省が提示した"all lawful purposes"（法的に許されるすべての用途）での利用を認める契約文書を、Anthropicが拒否したというニュースを数日前に見た*1。その契約には、全自動の殺傷可能な兵器や、国民全体をリアルタイムで監視するようなものが含まれうるということが理由のようだ。

この動きには、どこか既視感のようなものを覚えた。

国家は強制権限の発動を示唆し、AIプラットフォーム（PF）を抱える企業は「良心」を掲げて線を引く。OpenAIやGoogleは別の形で応じ、社内では反発の署名が広がる。AI PF企業の間の三極化*2やCEOの発言、内部の離脱劇は実にヒリヒリとする。しかし、少し温度を下げてみると、本当に重要なのは、別の点にあるように思える。

-

それは、違法か合法かという単純な線引きではない。ルールは国民のものではあるが、国は合法のルールを実質的に決めることができる。現在の米国政府のような大統領令でマネジメントしているような国家状況であればなおさらだ。問題は、「合法」の範囲を誰が定義し、その立法現場での最終的な決定権をどこがどう握るのかという点にある。

国防総省は「法的に許される範囲で」利用すると言う（どのような民主主義国家のどのような省庁でも建前的にこれだけは譲れないだろう）。企業側は、合法であっても、自分たちの企業が内部に課し、ユーザと投資家に対してコミットしている倫理的に許容できるガイドラインを超えることはできないと主張する。もっともだ。レーザーや航空機のように、国防用途で磨き込まれてきた技術が民間に流れ込むのとは全く異なる事態がここで生じている*3。

この緊張関係は、企業倫理の問題のように見えるかもしれないが、その実、ある種の主権、言い換えれば技術利用の統治権の問題と言える。

-

AIが単なるツールではなく、情報を見極め、選別し、意思決定を補助し、アウトプットを最適化する判断基盤へと変わりつつあるとき、その最適化関数（何の最大化を目指すのかとそれをコントロールする関数）を誰が設計し、誰が書き換えることができるのかは、社会全体のガバナンス（統治）の核心に触れる問題だ*4。

僕はこれを「関数主権」の問題と呼んできた（このような事態が顕在化していない数週間前に書いた拙稿を参照）。どの目的関数を設定し、何を最大化し、何を許容損失とみなすのか。どのような制約条件（constraints, red/yellow zones）を内部に組み込むのか。そして何より、その関数を更新する権限を誰が持つのか。

kaz-ataka.hatenablog.com

国家の目的関数とPFを作る企業の目的関数が一致しない時、その調停は誰が担うのか。形式上は民主主義国家といえ、実質的に全権委任型に近いガバナンスが行われる局面では、内部からの調停はきわめて難しくなる。

しかし、AIが判断OS化するほど、関数の設計権そのものが統治権になる。

-

振り返ると、1984年、僕は北陸の漁村に生活する高校生だった。たまたまTIMEを購読しており、その年、全体主義国家による監視社会を描いた小説『1984年』の作者George Orwell（オーウェル）が表紙を飾った号を手にした*5。あの号は長く大切にしてきた。いまもどこかに残っているかもしれない。

time.com

だから、「2026年は1984なのか」という問いが頭をよぎるのは、単なる比喩ではない。数字の偶然以上に、歴史の反響のようなものを感じるのだ。

-

だが、あの1984年といまは決定的に違う。

いまから考えれば冷戦末期の当時のせめぎあいの中心は国家と国家、西側陣営と東側陣営の対峙だった。計算機を持つ人はごく一部であり、90年代に生まれるブラウザはおろか、メールやfetchを行うだけのインターネットですら実質的にないも等しい状況だった。

今起きているせめぎあいは国家と企業と技術者が、同じ関数の取り扱い、関数空間の内部で起きている。コソボ空爆や9.11後のアメリカを当時、米国内で見ていたものとして*6、今回の動きにはどこか見覚えがある。安全保障局面に入ったとき、アメリカは技術と国家を強く接続する。

それは、善悪の問題と言うより、歴史的に繰り返されてきた彼の国の振る舞いのパターンだ。マンハッタン計画、冷戦初期の科学動員、9.11後の法的な枠組みの拡張（Patriot法の策定、Department of Homeland Securityの設立など）。国家が「この技術は戦略資産だ」と認識した瞬間、国と企業、個人との関係は契約から動員へと変わる。今回、その対象がAIになった。

-

そして、さらに留意しなければいけないのは、歴史が示してきたもう一つの事実だ。人類は強力な技術を原理的に止めることに、ほとんど成功していない。核兵器も、生物兵器も、化学兵器も、明確な被害や惨禍が露呈するまで開発は止まらなかった。禁止条約や国際合意は、常に何かが起きた後に整備されてきた。倫理的な警鐘は繰り返し行われてきたが、それだけで進行を止められた例はおそらくほとんどない。だから言っていたじゃないか、というのは知識人がいつも言う言い訳だが、実際のところ普通にはモメンタムのついた社会を止める方法はほとんどない。

AIも例外ではないのかもしれない。主要国間の競争の中で、国家安全保障の文脈に入った技術は、一定の水準まで実装される。そして、実際のリスクや誤用や事故が顕在化してはじめて、制約条件や利用のガイドラインが明文化され、価値観が共有される。

だとすれば、僕たちは「止められるかどうか」を議論しているのではなく、「どの段階で、どのような制約を目的関数の内部に組み込めるのか」を問われているのかもしれない。

関数主権の争いは、理想論ではなく、設計の現実へと移っている。

またこれはアメリカだけの問題ではない。歴史を振り返れば明らかなように、国家が設定する制約は自国民には強く働く一方、国外には必ずしも対称には適用されない。目的関数は国境を越えて出力を生むが、制約条件は往々にして内向きに設計される。日本もまた、AIを単に使う側にとどまるのか（出力を受け取るだけの立場に甘んじるのか）、それとも関数設計に関与できる立場を目指すのか、静かに問われている。

歴史の分岐点は、往々にしてニュースの形でやってくる。あとになって振り返ったとき、あれが転換点だったと言われるのかもしれない。

-

2026年は "1984" なのか。まだ、そうとは言えない。いまは単一の支配構造が完成した世界ではなく、ゆらぎの局面にある。国家と企業と技術者、科学者が、それぞれ異なる目的関数を掲げながら、どこに境界線を引くのかを探っている。この揺れそのものが、まだ関数が固定化されていないことの証（あかし）でもある。

冷戦の中、監視国家を外から想像していた高校生が、判断OSのあり方やAIガバナンスの設計をめぐる議論に、この10年あまり一定程度関わってきた*7。歴史は直線ではなく、思いがけない円を描く。

どんなに悲惨なことがあろうと、人類は常に立ち上がってきた。人類史は、破壊の歴史であると同時に、レジリエンスの歴史でもある*8。だからこそ、悲観だけで終わるべきではない。

技術は止まらないだろう。しかし、関数は設計できる。目的関数にどのような制約を入れるかは人間が決める。更新権限をどのように分散させるかも、人間が設計できる。

関数主権は奪い合うものでもあるが、同時に合意によって共有しうるものでもある。

もし、希望があるとすれば、それはここにある。技術の暴走を祈りで止めることはできないが、設計思想を議論し、制約を明示し、更新権限の所在を透明化することはできる。AIが中立でいられない時代においても、関数の設計をめぐる議論そのものが、社会の成熟度を映す。そういえば、ChatGPT誕生直後、OpenAIが必死に進めたsuper alignmentの試みも、振り返れば関数主権をめぐる格闘そのものだったのだろう。

1984ではなかったと言える未来にするかどうかは、まだ決まっていない。