男子高校生がAIで同級生のヌードを作成し共有か…警察が捜査を開始 米

アメリカ・ニュージャージー州にあるウェストフィールド高等学校の男子生徒らが、AIを使用して同級生の女子生徒のヌード写真を作成し、共有していたことがわかりました。この事件で警察は捜査を進めていますが、問題の画像にアクセスできず、偽のヌード写真の頒布が違法行為にあたるかどうかも不明なため、暗中模索の状況であると伝えられています。

AI-generated nudes of girls at NJ high school trigger police probe

https://nypost.com/2023/11/02/news/ai-generated-nudes-of-girls-at-nj-high-school-trigger-police-probe/

Westfield High School student accused of creating AI nude images of classmates

https://www.fox5ny.com/news/westfield-high-school-new-jersey-artificial-intelligence-pornographic-images-incident

New Jersey high school students accused of making AI-generated pornographic images of classmates - CBS New York

https://www.cbsnews.com/newyork/news/westfield-high-school-ai-pornographic-images-students/

Teen boys use AI to make fake nudes of classmates, sparking police probe | Ars Technica

https://arstechnica.com/tech-policy/2023/11/deepfake-nudes-of-high-schoolers-spark-police-probe-in-nj/

ニュースメディア・New York Postによると、この事件は2023年10月16日にウェストフィールド高等学校2年の男子生徒の様子がおかしいと女子生徒らが訴えたことにより発覚したとのこと。

10月20日になって、男子生徒の1人が女子生徒に真相を明かしたことで、少なくとも1人の生徒がネット上にあった同級生の女子生徒の写真で偽のヌード写真を作成し、それをグループチャットで他の男子生徒と共有したことが判明しました。



高校の広報担当者は、守秘義務を理由に、事件に関与した生徒の総数や懲戒処分を受けた生徒がいるかどうかなどについてのメディアの取材を拒否しました。

しかし、ニューヨークのテレビ局であるFOX 5 New Yorkは、1人の生徒が数日間の一時停学処分を受けたと報じています。その生徒は記事作成時点ではすでに学校に戻っているとのこと。また、女子生徒の中には学校の職員から自分がヌード写真に写っていることを告げられた人もいると伝えられています。

被害を受けた女子生徒であるというフランチェスカ・マニさんは、「私たちはとても怒っていたし、多くの女の子が泣いていました」「廊下で彼を見るだけで怖くなります」と話しました。

また、14歳のフランチェスカさんの母親であるドロタ・マニ氏は「これがいつ、どのように問題として表面化するのか、恐怖を感じています。娘には輝かしい未来があるのに、このことが仕事や学業、人間関係に影響を与えないとは誰も保証できません」とコメントしました。

マニ氏は、ヌード写真を作成した人と娘を同じ学校に通わせたくないとして、問題の生徒を退学処分とするよう学校に訴えるとともに、この件でウェストフィールド警察に被害届を出したとのことです。



メアリー・アスフェンディス校長は10月20日に生徒と保護者にメールを送り、事件の内容と経緯を説明しました。その中でアスフェンディス校長は「本日未明、生徒の一部が人工知能を使い、オリジナルの写真からポルノ画像を作成したとの情報が寄せられました。その画像を誰が作成したのか、またそれが共有されたのかについて、大きな懸念が寄せられました。現時点では、作成された画像はすべて削除され、流通していないと考えています」と述べました。

学校は被害を受けた生徒やその保護者に対し、警察に通報するよう呼びかけています。しかし、捜査関係者はNew York Postに対し、警察は誰も問題の写真を見ていないと述べて、今回の事件で作成されたヌード写真を警察が入手できていないことを明かしました。

伝えられるところによると、実在の人物を撮影した偽の性的画像作成を制限する連邦法は目下のところ存在していないとのこと。2023年6月には、子供の安全の専門家が「AIが作った、リアルだが偽の児童ポルノ画像数千枚がオンラインで共有されており、それを止める方法はありません」との懸念を表明していました。

OpenAIのDALL-Eなどの洗練された画像生成AIの登場により、実在の人物をAIで加工した「ディープフェイク」の作成は非常に容易になっており、2023年3月にはMidjourneyで逮捕に抵抗するドナルド・トランプ元大統領の偽写真を作ったユーザーが利用禁止処分を受けています。

画像生成AI「Midjourney V5」を利用して偽の「トランプ前大統領が逮捕された」画像を生成した人物が利用禁止処分を受ける - GIGAZINE



また、日本では岸田文雄総理大臣が卑わいな発言しているかのようにみせかける動画がSNSで拡散され問題となりました。