過去に発生した殺人事件の被害者、主に子どもたちが、AI生成による姿で自分の身に何が起こったのか、最期はどうなったかを語るという映像がTikTokに大量に登場しています。
True Crime TikTok: AI Deepfakes Victims Are a Waking Nightmare - Rolling Stone
https://www.rollingstone.com/culture/culture-features/true-crime-tiktok-ai-deepfake-victims-children-1234743895/
Disturbing TikTok trend sees child murder victims recreated with character AI image generator - including their voices | The Sun
https://www.thesun.co.uk/news/22551521/tiktok-trend-child-murder-victims-recreated-ai-image-generator/
ニュースサイトのRolling Stoneや、イギリスのタブロイド紙The Sunによると、映像の語り手となっている人物の画像はAI生成されたものですが、語られている事件は実際にあったもの。
たとえば2018年に発生した、1歳8カ月の幼児が祖母の家で刺殺され遺体がオーブンで焼かれた事件や、1995年に発生した、6歳の少女が母親によって虐待され殺された事件、2020年に母親のガールフレンドによって1歳の乳児が殺害された事件、日本でもワイドショーでたびたび扱われたジョンベネちゃん殺害事件などが扱われています。
特徴は「被害者が一人称視点で語る」体裁を取っていることと、事件に関する細かい部分はかなり適当に作られていること。2018年の事件の場合、殺害された子どもは黒人でしたが、AIが生成した姿は白人でした。
こうした映像を投稿するアカウントには数万人から数十万人のフォロワーがいることもあり、中には数百万回再生される動画もあるそうです。
ニューヘブン大学のポール・ブリークリー助教は、問題の映像について「とても奇妙で不気味です。これがクリックやいいねを獲得するための確実な方法なので、強い感情的反応を引き起こすように設計されているようです。見ていて不快ですが、それこそがポイントなのかもしれません」と述べました。
これらの映像は、TikTokのガイドラインを回避するためか、映像は被害者の写真を用いることなく作られていますが、ブリークリー助教によると、ディープフェイクを巡る法的問題は難しくなっているとのこと。同意のないディープフェイク画像・映像を違法とする連邦法はないものの、バージニア州とカリフォルニア州ではディープフェイクによるポルノを禁止する法律があるほか、ジョー・モレル下院議員によってディープフェイクの拡散を行った者に対して刑事責任・民事責任の両方を負わせるという法案が提出されています。
ただ、被害者が死亡している場合、被害者家族が動画作成者を民事で訴えるのは、かなり難しいとのことです。
なお、同種の動画はYouTubeでも公開されていますが、再生数はそこまで多くなく、運営者が同一かどうかも不明です。以下はその一例です。
Jonbenét Ramsey - Mysterious Story in Real Life Will Touch Your Heart & Make You Cry | Sad Story - YouTube
