論文中の図（本記事トップ画像ではありません）が面白かったのでうっかり読んでしまったのがこちら。タイトルを読んで字の如く、embodied AI即ち自動運転車や自律制御型ドローンなどに搭載されるカメラ画像認識用のマルチモーダル生成AI（LVLM：大規模視覚言語モデル）を乗っ取る方法という、物騒な問題提起をしている論文です。端的に言えば、生成AIにおいてはその歴史の最初期から根強い問題として知られている「プロンプトインジェクション」（悪意あるプロンプトを入力して機密情報を盗んだり禁止されている出力を得ること）を、現実世界に合わせた方法で仕掛けてやると結構上手くいってしまうという話をしており、その対策の重要性が議論されています。

なおプロンプトインジェクションの総論についてはGemini 3 ProのDeep Researchにまとめさせたものがありますので、以下にそのさらに要約を貼っておきます。

プロンプトインジェクションは、生成AIという技術が持つ「言葉を理解し、実行する」という根本的な性質に根差した問題であり、本質的に「完治」することは困難です。SQLインジェクションがパラメータ化クエリによって解決されたような、単一の技術的特効薬は、現在のTransformerアーキテクチャの延長線上には存在しない可能性が高いでしょう 。

ということでこの論文を読み解いていこうと思うのですが、きちんとした内容の論文であるが故に問題の定式化やアルゴリズムの提案もしっかりされていて、主張のキャッチーさに比して結構長ったらしいんですね（汗）。よって、ある程度端折りながらダイジェスト的にレビューしていきます。

光陰矢の如しとは良く言ったもので、今日でGoogleに入社して10年が経ちました。それまでは研究者時代まで含めても5年以上同じところに勤めたことがなかった上に、Googleに入ってからも「5年もいられたら御の字」と思っていたことを考えると、随分と遠いところまでやって来たなぁというのが偽らざる感想です。ということで、主に公開済みの記事・資料類を引きながら、この10年間やってきたことを差し支えない範囲で振り返ってみようと思います。