https://infomation-sytem-security.hatenablog.com/entry/generative-ai-malware-threat-and-measures

こんにちは。東証プライム上場企業で情報システム部のセキュリティ担当をしている城咲子です。CISSPと登録セキスペの資格を持ち、日々、経営と現場の橋渡しをしながら、会社の情報資産を守るために奮闘しています。

さて、今日は少し未来の話…と見せかけて、すでに現実になりつつある新たな脅威についてお話しなければなりません。それは、**生成AIが自らマルウェアを作り出し、進化させる「自律型脅威」**の出現です。

「AIがマルウェアを作るなんて、まるでSF映画の話だろう？」

そう思われるかもしれません。しかし、私の立場から見ると、これは決して絵空事ではありません。むしろ、数年後のサイバーセキュリティ環境を根底から覆しかねない、重大なパラダイムシフトだと捉えています。

この記事では、生成AIによるマルウェアが具体的にどのようなもので、従来の対策がなぜ通用しなくなるのか、そして最も重要な**「私たちは今から何をすべきか」**について、専門的かつ実践的な視点から徹底的に解説します。

第1章：脅威の正体 - AIはサイバー攻撃をどう変えるのか？

まず、なぜ生成AIがこれほどまでにサイバーセキュリティの世界で警戒されているのか、その核心に迫ります。

マルウェアの「創造的」進化が始まる

これまでも、マルウェアはセキュリティ製品の検知を逃れるために「自己進化」を続けてきました。

ポリモーフィック型マルウェア: 感染するたびにコードの見た目（シグネチャ）を暗号化で変化させるタイプ。かつて猛威を振るったEmotetなどが有名です。
メタモーフィック型マルウェア: さらに高度で、コードの構造そのものを機能的に等価な別のものに書き換えるタイプ。

これらは非常に厄介ですが、その変化のパターンは、あくまで開発者があらかじめプログラムした**「アルゴリズムの範囲内」**でした。

しかし、生成AI、特にChatGPTのような大規模言語モデル（LLM）の登場は、このルールを根本から破壊します。AIは固定されたアルゴリズムではなく、膨大なデータから学習した知識を元に、**機能は同じでも構造が全く新しい、人間が予測不能なコードを「創造」**できてしまうのです。

これは、マルウェアの進化が「アルゴリズム的変異」から**「創造的進化」**へと移行することを意味します。もはや、既知のパターンを検出するだけのセキュリティ対策では、歯が立たなくなる時代の幕開けです。

第2章：現在の脅威と未来の悪夢 - AIマルウェアの実例

では、AI駆動型の攻撃は具体的にどのような形で現れているのでしょうか。「現在すでに起きている脅威」と「すぐそこまで来ている未来の脅威」に分けて見ていきましょう。

【現在の脅威】サイバー犯罪の民主化と高度化

今、現場で最も観測されているのは、AIが攻撃者の能力を「増強」する、いわば強力な武器として使われるケースです。

超巧妙なフィッシングメールの大量生産: 従来、フィッシングメールは不自然な日本語や文法ミスが判断材料の一つでした。しかし生成AIを使えば、標的の業界や個人の文脈に合わせ、完璧な文章のメールを無尽蔵に生成できます。
ディープフェイクによるなりすまし: CEOの声をディープフェイクで再現し、経理担当者に電話をかけて送金を指示する…といった、ビジネスメール詐欺（BEC）の成功率を劇的に高める攻撃も現実のものとなっています。
「悪意あるGPT」の登場: ダークウェブでは、倫理的な制限を取り払った「WormGPT」や「FraudGPT」といったサービスが月額数万円程度で販売されています。これらは、フィッシングサイトのコードや基本的なマルウェアを生成する能力を持ち、スキルの低い攻撃者でも容易に質の高い攻撃を実行できる「サイバー犯罪の民主化」を引き起こしています。

【未来の脅威】自ら考え、進化する「自律型マルウェア」

ここからが本題です。研究レベルでは、すでに「自律的」に動作するAIマルウェアの概念実証（PoC）が複数登場しており、その脅威の本質は、これまでのマルウェアとは全く異なります。

PoC名	コア技術	恐ろしい点
BlackMamba	LLM	実行時にAI（ChatGPTのAPIなど）を呼び出し、メモリ上でキーロガー等の悪意あるコードを生成・実行する。ディスクにファイルが残らず、通信先も正規のAIサービスのため、従来型のEDRやネットワーク監視では検知が極めて困難。
EyeSpy	LLM	感染後、自らシステム環境を「認知・推論」し、最も効果的な攻撃戦略を立案。必要なコードをその場で生成・実行し、エラーが出れば自己修正まで行う。環境に応じて攻撃手法を変える日和見的な動作は、振る舞い検知さえも欺く可能性がある。
Morris II	LLM	ソフトウェアの脆弱性ではなく、AIアシスタントの「思考プロセス」そのものを悪用するワーム。悪意ある指示（プロンプト）を埋め込まれたメール等をAIが処理するだけで、情報窃取や自己増殖を行う。ユーザーの操作不要（ゼロクリック）で感染が拡大する。

これらのPoCが示す最も恐ろしい変化は、攻撃対象が「コードの脆弱性」から「AIの認知・推論プロセス」へと移行している点です。

さらに、BlackMambaはC2サーバー（指令サーバー）との通信にOpenAIのAPIやMicrosoft TeamsのWebhookといった正当なクラウドサービスを利用します。情報システム部として、これらの正規サービスへの通信を安易にブロックすることは事業継続の観点から不可能です。つまり、悪意ある通信が、ごく普通のビジネストラフィックの中に完全に紛れ込んでしまうのです。

これは、従来の境界型防御やシグネチャベースの検知がいかに無力であるかを雄弁に物語っています。このようなサイバー攻撃の被害は年々増加しており、その手口は巧妙化の一途を辿っています。最新の被害事例とその対策については、以下の総まとめ記事もぜひご一読ください。

【総まとめ】2025年国内サイバー攻撃被害事例｜企業が学ぶべき教訓と対策

第3章：旧来の対策はもう古い - AI時代の新・防御戦略

では、私たちはこの新たな脅威にどう立ち向かえばよいのでしょうか。結論から言えば、**「AIが生成する脅威には、AIを駆使した防御で対抗する」**しかありません。

セキュリティの考え方を、ファイルの特徴（シグネチャ）を見る**「静的分析」から、プロセスや通信の「振る舞い（ビヘイビア）」を見る「動的分析」**へと、根本的にシフトさせる必要があります。

AI 対 AI：行動分析パラダイムへの移行

現代の防御戦略の核心は、AIと機械学習を用いて、システムやネットワークにおける**「正常な状態」のベースラインを学習し、そこから逸脱する「異常な振る舞い」をリアルタイムで検知**することです。

たとえマルウェアの形が毎回変わろうとも、あるいは正規のツールが悪用されようとも、「機密情報にアクセスしようとする」「外部へ不審な通信を開始する」といった**"攻撃者の行動"**には必ず兆候が現れます。その兆候をAIが捉えるのです。

このパラダイムを実現するのが、以下の次世代セキュリティソリューションです。

EDR (Endpoint Detection and Response): PCやサーバー（エンドポイント）上のプロセスの動作を監視し、不審な挙動を検知・対応します。CrowdStrikeやSentinelOneなどが代表的で、インメモリ攻撃やファイルレス攻撃に強みを持ちます。
NDR (Network Detection and Response): ネットワーク全体の通信を監視し、異常なトラフィックパターンを検知します。Darktraceのように、AIが各デバイスの「正常な生活パターン」を学習し、逸脱を検知するアプローチが有効です。
XDR (eXtended Detection and Response): EDR、NDR、クラウド、ID情報など、複数のソースから得られる情報を統合・相関分析し、より広範な脅威を検知するプラットフォームです。サイロ化された情報を繋ぎ合わせることで、BlackMambaのようにエンドポイントとネットワークをまたぐ巧妙な攻撃の全体像を捉えることができます。

発生源を守る：AIアプリケーション自体の防御

Morris IIのような攻撃は、セキュリティ製品ではなくAIアプリケーション自体を標的とします。これには、OWASPが提唱する「Top 10 for LLM Applications」で示されているような、アプリケーションレベルでの防御が不可欠です。

プロンプトインジェクション対策: ユーザーからの入力とシステムへの指示を明確に分離する。
権限の最小化: AIエージェントに与える権限を必要最小限に絞る。
人間による承認: リスクの高い操作には人間の承認を介在させる（Human-in-the-Loop）。

第4章：経営層・IT担当者が今すぐやるべきこと

自律型AIマルウェアという脅威は、まだ研究段階の側面もありますが、その根幹技術はすでに存在し、攻撃手法は日々進化しています。様子見をしている余裕はありません。

最後に、企業のサイバーレジリエンスを高めるために、具体的なアクションプランを「テクノロジー・プロセス・人材」の3つの観点から提言します。

【テクノロジー】

脱・シグネチャ依存: 従来のアンチウイルスソフトだけに頼る体制を見直し、AI駆動型のEDR/XDRプラットフォームへの投資を最優先で検討する。
ゼロトラストへの移行: 「社内は安全」という前提を捨て、「侵害は常に起こりうる」ことを前提に、すべてのアクセス要求を継続的に検証するゼロトラストアーキテクチャの採用を推進する。
行動分析(UEBA)の導入: ユーザーやデバイスの振る舞いを分析し、内部不正やアカウント乗っ取りといった脅威の兆候を早期に検知する仕組みを導入する。

【プロセス】

インシデント対応計画の更新: AIによる高速な攻撃に対応できるよう、**対応プロセスの自動化（SOARなど）**を組み込み、人間が介在せずとも脅威の封じ込めや復旧がある程度進む体制を目指す。
継続的な敵対的テストの実施: AIを活用したレッドチーム演習などを定期的に行い、自社の防御体制に未知の脆弱性がないかをプロアクティブに評価する。
法規制・ガイドラインの遵守: AIの利活用とセキュリティに関する法規制は今後ますます重要になります。常に最新の動向をキャッチアップし、自社の体制が準拠しているかを確認することが不可欠です。関連情報は以下のまとめ記事も参考にしてください。

2025年度法律・ガイドライン改訂総まとめ

【人材】

セキュリティ教育のアップデート: 単純なフィッシングメールの見分け方だけでなく、AIが生成した巧妙な偽情報やディープフェイクの脅威について、全従業員の意識を高めるトレーニングを実施する。
セキュリティチームのスキルアップ: セキュリティ担当者がAI駆動型の防御システムを適切に運用・管理できるよう、「セキュリティデータサイエンティスト」のような次世代の人材育成に投資する。