9人が死亡したという列車事故のフェイクニュースをChatGPTを用いて作成した疑いで、中国・甘粛省の警察が男を逮捕しました。今回の事例は、2023年1月10日から施行された深層合成技術を規制する規則が初めて適用された事例だとみられています。

Chinese police arrest man who allegedly used ChatGPT to spread fake news
https://www.cnbc.com/2023/05/09/chinese-police-arrest-man-who-allegedly-used-chatgpt-to-spread-fake-news.html

警察によると、容疑者の作成した記事は中国の検索大手・バイドゥの所有するブログプラットフォームにおいて、20以上のアカウントによって投稿され、1万5000回以上閲覧されていたとのこと。

容疑者はプラットフォームによる重複チェックを通過するため、ChatGPTを用いて内容が微妙に異なる複数バージョンのフェイクニュースを作成していました。

中国はネットコンテンツを強く規制していて、AIやディープフェイクもその例外ではありません。2023年1月にはディープフェイク規制を含む、深層合成技術の管理規則が施行されました。この規則では「フェイクニュースを広めるために技術を用いてはならない」「合成で生み出したコンテンツは、技術で変更された内容であることを何らかの形でユーザーに通知する必要がある」「既存の法律に違反するコンテンツは禁止、国家の安全や利益を危険にさらすコンテンツや国家イメージを損なったり経済的混乱をもたらしたりするコンテンツも禁止」などが定められています。

China is bringing in first-of-its-kind regulation on 'deepfakes'
https://www.cnbc.com/2022/12/23/china-is-bringing-in-first-of-its-kind-regulation-on-deepfakes.html

なお、中国では、中央政府に懸念をもたらす可能性のある新技術を管理する法律の導入を目指しているとのことです。