画像生成AI「MidJourney」の開発チームが、2023年3月16日にリリースした「Midjourney V5」はまるで実写のような超高画質の画像を生成することが可能です。そんなMidjourney V5を利用して「ドナルド・トランプ前アメリカ大統領が逮捕された」という偽の画像を大量に生成し、Twitterで公開したユーザーがMidjourneyから利用禁止処分を受けたことが明らかになりました。

AI-faked images of Donald Trump’s imagined arrest swirl on Twitter | Ars Technica
https://arstechnica.com/tech-policy/2023/03/fake-ai-generated-images-imagining-donald-trumps-arrest-circulate-on-twitter/

AI platform allegedly bans journalist over fake Trump arrest images | Ars Technica
https://arstechnica.com/tech-policy/2023/03/ai-platform-allegedly-bans-journalist-over-fake-trump-arrest-images/

Midjourney Allegedly Banned A Journalist Over AI Trump Arrest Images
https://www.buzzfeednews.com/article/chrisstokelwalker/midjourney-ai-donald-trump-arrest-images-ban

イギリスの調査報道機関・ベリングキャットの創設者であるエリオット・ヒギンズ氏は、「2023年3月21日現在、刑事告発中のトランプ氏が実際に逮捕されるまでの間に、トランプ氏が逮捕される画像を生成しました」と述べ、MidJourney V5を利用してまるでトランプ氏が逮捕に抵抗しているような画像や、収監されたような画像を約50枚生成したとTwitterに投稿しました。

以下の画像はヒギンズ氏が投稿した偽のトランプ氏の画像です。暴れた結果警察に確保されたトランプ氏。

トランプ氏は必死に逃走。

警察に抗議するドナルド・トランプ・ジュニア氏。

警察に抵抗しています。

イヴァンカ・トランプ氏も警察に抗議。

必死の抵抗むなしく拘置所に入れられてしまったトランプ氏。

トランプ氏の裁判が始まりました。

裁判中の様子です。

裁判中泣き出すトランプ氏。

ドナルド・トランプ・ジュニア氏などが号泣している一方でなぜか爆笑しているメラニア・トランプ氏。

刑務所に連行されてしまいます。

刑務所の外を悲しそうな目で見つめています。

自身が着る囚人服を選ぶトランプ氏。

何らかの書類にサインしています。

刑務所内でトイレ掃除などに従事しています。

読書にいそしむトランプ氏。

厳しい顔で何かを見つめています。

時には他の囚人たちとバスケットボールを楽しむことも。

筋トレを行うトランプ氏。

囚人たちと何かを話し込んでいます。

刑務所内のトランプ氏。

ついに脱獄を図ります。

無事脱獄に成功したようです。

雨の中走った先は……

「Minonad」という名前の飲食店でした。

走り込んだトランプ氏は商品を注文。しかし頭を抱えて何か思い詰めている様子です。

ヒギンズ氏が投稿したこれらの画像は、特に人気なものだと520万回以上閲覧されていますが、あるユーザーはヒギンズ氏に対し「人々の混乱を防ぐために、画像生成AIによって生成された画像には、実際の写真ではないことを示す透かしを入れるべきです」と指摘しています。

Midjourneyはヒギンズ氏が生成した画像が「他者に対して攻撃的、あるいはその他の虐待的な画像またはテキストプロンプトの使用禁止」という利用規約違反であるという観点から、2023年3月22日にヒギンズ氏を利用禁止にする処分を下しました。また、記事作成時点でMidjourneyでは「arrest(逮捕)」という単語や「ドナルド・トランプ氏を含む歴代大統領の名前を含むプロンプトの使用が禁止となっています。

ニュースメディア・BuzzFeed Newsに対しヒギンズ氏は「Midjourney V5では何が可能で、どれほど複雑な画像が生成できるかを確認するために、さまざまなプロンプトを試した結果です」と語っています。また、ヒギンズ氏は投稿した画像について「画像に対する反応の多くは肯定的なものですが、一部のトランプ氏の支持者からは怒りを買っています。しかし私はトランプ氏に対する批判のつもりはありませんでした」と述べています。

さらにヒギンズ氏はニュースメディア・Ars Technicaに対して「今回の一連の投稿で最も印象的だったのは、多くの人々がMidjourneyのような画像生成AIの存在や機能を知らなかったことです」と述べ、「私の投稿で、画像生成AIはどのような種類の画像が偽造できるかについて、人々に周知されました」と明かしています。また「有名人を用いて生成した偽の画像で利用禁止処分を受けるのであれば、画像生成AIはなぜ有名人のデータセットを用いて学習しているのでしょうか」と指摘しています。