2023年9月5日に発売された『The Coming Wave: Technology, Power, and the Twenty-first Century's Greatest Dilemma』（邦題：THE COMING WAVE AIを封じ込めよ DeepMind創業者の警告）は、人工知能やその他の急速に発展するテクノロジーが世界秩序にもたらす前例のないリスクと、そのリスクを封じ込める方法について警告する一冊である。著者のムスタファ・スレイマンは、AI分野のパイオニア企業であるDeepMindの共同設立者としての経験から、この問題に対する深い洞察を提供している。2024年には日本語訳も出版され、ビル・ゲイツによる2024年冬の推薦読書リストにも選ばれるなど、注目を集めている。
著者はAI技術の到来によってもたらされる肯定的な側面について、以下の点を指摘している。まずAIは複雑なタスクを自動化し、膨大な量のデータを分析することで、ビジネス、政府サービス、ヘルスケアなど、さまざまな分野の効率性と生産性を大幅に向上させる可能性を秘めている。またAIは、個々のニーズや好みに合わせたパーソナライズされたサービスを提供することを可能にする。例えば教育分野では、AIを活用した個別指導システムが、学習者のレベルや学習スタイルに合わせた最適な学習体験を提供することができる。そして気候変動、貧困、病気など、人類が直面するグローバルな課題の解決に貢献する可能性さえあると著者は指摘する。
その一方でAIが悪用されうる分野も存在する。スレイマンは、AIモデルが生物兵器や化学兵器の製造に関する指示を提供できることを懸念している。これはAIがインターネット上の膨大なデータから学習するため、その中には有害な情報も含まれている可能性があるためだ。また、AIは説得力のある偽の画像、動画、テキストを生成するために使用されることがあり、選挙や社会の安定を混乱させるために悪用されるケースが実際に生じている。さらにAIは、サイバー攻撃を自動化し、より高度で検出が困難な攻撃を仕掛けるために使用される可能性がある。これは重要なインフラや企業ネットワークに深刻な損害を与えることが懸念される。
このようなAIの悪用を防ぐために、スレイマンは以下の対策を講じる必要があると主張している。第一に、AI開発における倫理と安全性の重視である。AIを開発する企業や研究者は、倫理と安全性を最優先に考え、AIが悪用される可能性を最小限に抑える必要がある。これは、AIシステムの設計段階から、潜在的なリスクを考慮し、適切な保護措置を組み込むことを意味する。
第二に、政府による規制と監視の強化である。政府は、AIの開発と利用に関する明確なルールとガイドラインを策定し、AIが悪用されるのを防ぐための監視体制を強化する必要がある。第三に、国際協力の推進だ。AIの悪用は国境を越えた問題であり、国際的な協力体制の構築が不可欠である。各国政府は、AIの倫理的な開発と利用に関する共通の原則を策定し、情報共有や共同研究を推進する必要がある。
最後に、技術的な対策の実施である。AIシステム自体に、悪用を防ぐための技術的な対策を組み込むことができる。例えば、AIモデルが有害なコンテンツを生成するのを防ぐためのフィルターや、AIシステムの動作を監視し、異常を検知するシステムを開発することが可能である。
スレイマンは、強力なテクノロジーを制御下に置き、人類にとって安全かつ有益な形で発展させていくことが、21世紀における人類にとって最も重要な課題であると述べている。AI技術の進歩は、私たち人類に大きな恩恵をもたらす可能性を秘めているが、同時に制御を失った場合、深刻な脅威をもたらす可能性も孕んでいる。テクノロジーを適切な方向に発展させられるかどうかは、AI技術が人類の繁栄に貢献するのか、それとも破滅をもたらすのかを左右する重要な分岐点となるだろう。
