文章を生成するAIは日進月歩で進化しており、2020年10月には文章生成AI「GPT-3」がオンライン掲示板Redditで1週間誰にも気付かれずユーザーらと会話していたことが判明しました。こうしたAIの登場により、政治がゆがめられてしまう危険性が高まっていると、IT系ニュースサイトWIREDが指摘しています。

AI-Powered Text From This Program Could Fool the Government | WIRED
https://www.wired.com/story/ai-powered-text-program-could-fool-government/

アイダホ州政府は2019年に、医療改革について連邦政府の承認を得る手続きの一環として、医療制度についての意見をオンラインで募集しました。その結果、合計で1810件のコメントが集まりましたが、半分以上にあたる1001件がAIによって生成された「ディープフェイクコメント」だったことが、後に判明しました。

この事例を受けて、ハーバード大学の医学生であるマックス・ワイス氏は、108人の被験者に文章生成AIと人間が書いた文章を見分けてもらう実験を行いました。この実験で得られた正答率は49.63％と、コインを投げて適当に選んだ結果となんら変わらず、中には誰一人としてAIによるものだと見抜けなかったディープフェイクコメントもあったとのこと。この結果からワイス氏は、「政府のパブリックコメントサイトは、AIからの大量投稿に対して著しく弱いことが示されました」と結論付けています。

人工知能を専門とするWIREDの記者であるウィル・ナイト氏は、「ワイス氏の実験は、2019年の事例より深刻な脅威があることを浮き彫りにしています」と指摘しました。というのも、ワイス氏が実験に用いたのは2019年に公開された文章生成AI「GPT-2」でしたが、2020年にはその後継モデルである「GPT-3」が世に出ているからです。

「高精度過ぎて危険」と問題視されたGPT-2よりもさらに洗練された文章を生成可能なGPT-3は、作成した記事がニュースサイトで1位になるなど、既に社会に大きな影響を及ぼし始めています。

「あまりに高精度の文章を作る」として危険視されていた「GPT-3」の書いた記事がソーシャルニュースサイトの1位に浮上 - GIGAZINE

インターネット上での技術の不正利用を研究しているStanford Internet Observatoryのレニー・ディレスタ氏は、「新しいテクノロジーは常にもろ刃の剣です」とコメント。今後は、より多くの政府機関のサイトが、AIによるディープフェイクコメントの標的になるだろうとの見方を示しました。

専門家はまた、困難な状況が続く昨今の情勢の中では、AIの脅威が特に危険なものになるといいます。ハーバード・ケネディスクールの研究主任であるジョーン・ドノヴァン博士は、WIREDの取材に対し「人々の感情がすり切れていると、人々は込み入った真実ではなく都合がいい甘言に飛びついてしまうようになります」と述べて、単純な文章生成AIでさえ人々を簡単にだませるような社会になってきていると指摘しました。