生成AIの進化により、販売業者と消費者の騙し合いが始まっている。販売業者は商品を実物よりもよく見せ売ろうとする。消費者は瑕疵を捏造して返金を求めようとする。今のところ、この問題を解決する決定的な技術はないと機器之心が報じた。
ECの商品写真が実物よりもよく見える
生成AIが誰でも簡単に利用できるようになり、ECの販売業者たちは毎日のように活用をしている。低価格のシャツを売るにも、商品写真が必要になるが、わざわざモデルを用意して撮影するわけにもいかない。そこで、生成AIを使って既存のモデル写真や生成AIを使ったバーチャルモデルに、商品のシャツを合成する。現在の生成AIの性能では、非常に自然に着せ替えをさせることができる。
しかし、さまざまな問題が起きている。最も大きな問題は、生成AIが商品を美しく見せるために、商品写真では美しく見えたのに、買ってみたらだいぶ違うという苦情が起きることだ。一部のネットワーカーたちは、早速、これをネタにして、商品写真と実際の商品が大きく違うケースを収集してSNSに投稿したりして楽しんでいる。
また、数枚の写真があれば、モデルも生成できることから、著名人をモデルとして使ったり、あるいは他社が使っているモデルを使ってしまうという問題も起きている。
消費者も販売業者を騙すためにAIを活用
生成AIは、販売業者が消費者を騙すためだけに使われるわけではない。消費者も販売業者を騙すために使われ始めている。
現在のECの多くが、苦情に対しては「返金のみ」ポリシーを採用し始めている。商品に問題があった場合、返送をしてもらい別の商品と交換するのではなく、問題が確認できれば返金をし、商品は購入者に処分をしてもらうというやり方だ。その商品が必要なのであれば、返金されたお金でもうひとつ別に購入してもらう。宅配便料金と時間の節約になる。
ところが、生成AIを使って商品に問題がある写真をつくり、これを販売業者に送って苦情を入れ、返金を求めるということが起き始めている。
瑕疵のある写真の生成は簡単にできる
実際、編集部ではいくつかの生成AIを使って、商品に汚れがあったという画像を生成してみた。商品の写真を撮り、それを生成AIで汚れを追加する。この画像は、拡大をしても、相当の専門家でなければわからないほど精巧で、まず間違いなく、返金の対象となるはずだ。
写真ではなくビデオ撮影を求める販売業者
しかし、販売業者たちもこの問題に気がつき、対策し始めている。ひとつは、返金を求めるには、写真ではなく、ビデオ撮影を求めるというものだ。しかし、これはほとんど意味がない。生成AIはビデオ撮影でも矛盾なく汚れを乗せることができる。作成するのに、画像よりは時間がかかる程度のことでしかない。時間がかかるといっても30秒のビデオを加工するのにかかる時間は5分程度でしかない。
複数の写真を求める販売業者
ある販売業者は、返金には複数の写真を求めるという対策をしている。これは生成AIが一貫性を維持することが苦手という特徴を利用している。生成AIで、シャツの写真に汚れを乗せた場合、汚れの位置が違ってしまうということが起きる。
あるAirbnbのホストは、ある顧客が宿泊をした後、Airbnbに対し「高価なテーブルが壊された」として、その写真を送ってきた。ところが、送られてきた複数枚の写真を比べると何かおかしい。ひびの部分がテーブルの木目に対して異なっているのだ。生成AIやPhotoshopなどで加工をしたことが想像される。Airbnbは、このホストのアカウントを凍結したという。
しかし、このような方法も生成AIが進化をしてきて、異なる画像でも一貫性が保てるようになってきている。この方法もいずれ意味がなくなってきてしまうだろう。
専用アプリでの撮影を求めるプラットフォーム
大手プラットフォームでは、苦情を申請する時に、スマートフォンの写真をアップロードさせるのではなく、アプリのカメラ機能を使って撮影しなければならない仕組みにしているところも現れている。これであれば、生成AIで加工した写真を使うことができないからだ。
しかし、これも意外にあっさりと突破されてしまっている。先に生成AIで問題のある写真を作っておき、それを表示したスマートフォンの画面を撮影すればいいのだ。角度によっては不自然になることもあるが、ちょっとした工夫で自然に撮影ができる。販売業者の方は人間が写真を確認するため、あっさりと騙されてしまう。
デジタル透かしも決め手にはならない
結局、これといった対策の決め手はなく、最終的にはデジタル透かし技術を社会実装するしかない。グーグルはSynthIDというデジタル透かし技術を開発している。これは、生成AIで作成した画像、音声、テキスト、動画に、人の目や耳には感知できない透かしを入れる技術で、ツールを使えば検出ができる。
しかし、この技術を有効に使うためには、生成AIツールがデジタル透かしに対応する必要があり、そのためには、生成AIツールに対応を義務づけるなどの法整備が必要になる。それまでの間は、「デジタル透かしフリー」の生成AIが一部の人から人気になるという現象が起きるかもしれない。さらに、すでにデジタル透かしを除去する技術も登場してきている。
販売業者と消費者の、生成AIを使った騙し合いは、しばらくの間続くことになりそうだ。
バックナンバーポッドキャスト放送中！
ビデオ版バックナンバーも放送中！
