顔認証システムはスマートフォンやPCのロック解除など、日常生活のさまざまな場所に浸透しています。ところがイスラエル・テルアビブ大学の研究チームは、マスターキーならぬ「マスターフェイス」を生成するAIを開発したと発表。たった9つの顔で全体の40％以上の顔になりすまして、顔認証を突破可能だと報告しています。

[2108.01077] Generating Master Faces for Dictionary Attacks with a Network-Assisted Latent Space Evolution
https://arxiv.org/abs/2108.01077

‘Master Faces’ That Can Bypass Over 40% Of Facial ID Authentication Systems - Unite.AI
https://www.unite.ai/master-faces-that-can-bypass-over-40-of-facial-id-authentication-systems/

今回開発されたAIは、NVIDIAが2018年12月に発表した敵対的生成ネットワークの「StyleGAN」を使用して、広範な顔認証を突破できる「マスターフェイス」を生成するというもの。StyleGANに加えて、高次元のブラックボックスを最適化するためのアプローチであるLimited-Memory Matrix Adaptation(LM-MA-ES)も活用しているとのことです。

研究チームは開発したAIを、マサチューセッツ大学がオープンソースで公開している顔画像データセット・Labeled Faces in the Wild(LFW)を用いて、畳み込みニューラルネットワーク(CNN)ベースの顔認証アルゴリズムであるSphereFace・FaceNet・Dlibでテストしました。

AIはまず、広範な顔データに含まれる「最も一般化された特徴」を見つけ出し、可能な限り多くの顔になりすませる顔を生成します。次に、最初に生成した顔では突破できなかった顔データを相手にして、可能な限り多くの顔になりすませる新たな顔を生成。このプロセスを繰り返すことで、少数の顔でより多くの顔認証を突破できるようになる仕組みです。

以下の画像は、さまざまな手法でAIの精度を変更しつつ、SphereFace(a・d・g)、FaceNet(b・e・h)、Dlib(c・f・i)でテストを行った結果です。生成される顔はさまざまですが、全体的に「最初に生成される(最も多くの顔認証を突破できる)顔は白人の高齢男性」「続いて生成されるのはアジア系の男性や白人の高齢女性が多い」「5番目以降に黒人の顔が登場する」といった傾向が見られます。この傾向は、LFWに含まれる顔の種類を反映している可能性があります。

AIの精度やテストする顔認証アルゴリズムによって幅はありましたが、研究チームは9つの顔画像だけで40～60％の顔認証を突破できると報告しています。また、AIは初期の段階から最も一般化された特徴を適切に捉えて顔画像を生成できたそうで、訓練する量を増やしてもシステムの精度はそれほど向上しなかったそうです。

研究チームは論文の中で、「私たちの結果から、顔認証はターゲットの身元に関する情報がない場合でも、非常に脆弱(ぜいじゃく)であることが示されました。これは3つの顔認証手法すべてに当てはまりますが、得られる成功率にはいくらかの違いがあります」と述べました。