近年は画像生成AIの性能や使い勝手が向上したことで、多くの人々が簡単にAIで好きな画像を生成できるようになりましたが、それに伴って「実在する人物の同意を得ていないAI生成画像」の作成や共有が問題となっています。そんな中、AI生成画像の投稿・共有プラットフォームであるCivitaiで、「実在する人物の画像を生成するAIモデルの作成者に『報奨金』を支払うシステム」が導入され、有名人だけでなく一般人もターゲットにされているとテクノロジー系メディアの404 Mediaが報じました。
Giant AI Platform Introduces ‘Bounties’ for Deepfakes of Real People
https://www.404media.co/giant-ai-platform-introduces-bounties-for-nonconsensual-images-of-real-people/
CivitaiはユーザーがさまざまなAI生成画像を投稿・共有できるプラットフォームであり、画像の生成に使われたプロンプトやモデルデータ、LoRAファイルも投稿できる点が特徴です。また、アダルトコンテンツの生成に特化したモデルデータが大きな人気を集めていることも報じられています。
画像生成AIによるアダルトコンテンツ生成は「ポルノで学習したモデルの無料配布」「簡単にポルノ画像を生成できる有料サービス」などとんでもないことになっている - GIGAZINE
そんなCivitaiで、実在する人物の画像を生成するAIモデルの作成にユーザーが「報奨金」をかけ、AIモデルの作成者に仮想通貨を支払うシステムが導入されました。404 Mediaは、「この機能が開始されてからCivitaiに出された報奨金の多くは、有名人やソーシャルメディアのインフルエンサーの写真を再現することに焦点を当てています。しかし404 Mediaは、オンラインで大きな存在感を持たない個人のAIモデルに対し、少なくとも1回の報奨金が支払われたことを確認しています」と述べました。
実際にCivitaiで報奨金がかけられているInstagramインフルエンサーのミシェル・アルヴェス氏は、「私は何年もの間、自分のイメージが悪用される問題に直面してきましたが、こんな事態が頭をよぎったことはありませんでした。インターネットは制御できない場所のように思えるので、どんな対策が取れるのかわかりません。ただひとつ考えるのは、これが精神的にどのような影響を及ぼすのかということです」とコメントしています。
404 Mediaが確認した一般人に報奨金をかけた依頼では、個人の名前は含まれていなかったものの、元データとしてSNSから取得したいくつかの画像が含まれていたとのこと。詳しく調査したところ、404 Mediaは実際にこの人物が有名人やインフルエンサーではなくフォロワーも少ない一般人であることを確認しています。なお、この人物はコメントの要請に応じませんでした。
依頼者は「この女性は自分の妻だ」と主張していたそうですが、女性のFacebookには独身であると記載されており、他のユーザーもこの主張を真に受けてはいませんでした。あるユーザーは、「妻の素敵な写真を撮って使用できるのに、なぜプロフィール画面の低品質のスクリーンショットを共有するのですか？」と突っ込んでいるほか、「将来的に法的な問題を提起されたくなければ、彼女のLoRA(AIモデル)を作って共有するべきではないと思います」と警告するユーザーもいたそうです。
しかし、あるユーザーはこの依頼に応じてAIモデルを作成し、報奨金を受け取ったとのこと。女性のAIモデルはCivitai上で公開されており、Civitaiのユーザーなら誰でもダウンロード可能だと404 Mediaは報じています。
Civitaiに導入されている「AIモデルや画像に報奨金をかけるシステム」は、以前から公式Discordチャンネルの「モデルリクエスト」ルームで私的に行われていた、依頼に応じて有名人のAIモデルを作成するという慣行を公式化したものです。
Civitaiの報奨金システムでは、独自に公開した「Buzz」という仮想通貨が利用されています。ユーザーは他ユーザーのフォローや画像の投稿、モデルの共有といったエンゲージメントを高める活動を行ったり、リアルマネーで購入したりすることでBuzzを獲得できます。ユーザーを1人フォローすると10Buzzを獲得できるほか、1ドル(約150円)で1000Buzzを購入できるそうです。また、ユーザーは500Buzzを支払うことでCivitaiのサイト経由で対象人物の顔写真をアップロードしてAIモデルを作成することも可能です。
報奨金システムに関するポリシーでは、Civitai上に公開されているその他のAI生成コンテンツと同様に、「実在する人物の同意を得ていない性的コンテンツ」は許可されていません。しかし、Civitaiにはポルノ画像を生成するように設計されたAIモデルと、サイト上に公開されているモデルを使用し、テキストから画像を生成するためのツールが存在しています。そのため、報奨金システムで作ってもらったAIモデルとツールを組み合わせることで、簡単に実在する人物の性的画像を作ることができると404 Mediaは報じました。
