【要点】
◎MicrosoftはAIエージェント「Copilot Actions」の安全性確保へ4原則を策定。限定権限と隔離環境で動作させ、悪意ある操作を防ぐ仕組みを導入した。
【要約】
Microsoftは、自律型AIエージェント「Copilot Actions」の安全性確保に向けたガードレール設計を発表した。Copilot Actionsは予約や購入、ローカルファイル操作を代行できるが、悪意あるコンテンツによるクロスプロンプトインジェクションなどの新たな脅威も想定される。Microsoftはこれに対し、「専用アカウント」「限定権限」「信頼署名」「プライバシー設計」の4原則を策定し、エージェントを隔離環境で動作させる仕組みを導入。Windows 11では機能を初期状態で無効化し、ユーザー監視下でのみ動作可能にするなどの対策を講じている。
【ニュース】
◆MicrosoftのAIエージェントを守るガードレールの仕組みとは？ (マイナビニュース, 2025/10/20 10:31)
https://news.mynavi.jp/techplus/article/20251020-3559500/
【関連まとめ記事】
◆AIエージェント (まとめ)
https://tt-ai.hatenablog.com/entry/AI_Agent
