English 
NRIセキュアテクノロジーズ は、AIエージェントシステムに潜在する脅威を分析し、セキュリティ対策を実施するサービス「AIイエローチーム」を開始しました。本サービスは、国際的なガイドラインや最新の脅威動向、セキュリティ診断で培った当社独自の知見に基づくリスク分析により、システム設計段階からのセキュリティ確保を支援するものです。
同社は、AIを活用したシステムのリリース前のセキュリティ診断を行うサービス「AI Red Team」と、リリース後のセキュリティ監視を行うサービス「AI Blue Team」を提供。今回の「AI Yellow Team」の提供開始により、各段階において安全性の高いシステムの構築・運用が可能となります。近年、AIモデルを外部のデータソースやツールと連携させたり、複数のAIエージェントを連携させたりする動きが活発化しています。
こちらもお読みください： クラスメソッドとAnthropic、AIコンサルティングサービスを開始
一方、AIエージェント特有の新たな脅威として、AIエージェントの自律的な実行能力を悪用し、AIエージェントが意図する目的を徐々に覆す可能性や、正当な権限と機能を組み合わせた攻撃の可能性が出てきています。AIイエローチームの専門家は、設計段階において「ヒアリング」「可視化」「脅威分析」「セキュリティ対策提案」の4つのステップを踏んでいます。システムの開発・運用段階で起こりうる脅威を特定・分析し、セキュリティ対策の妥当性を評価し、適切な解決策を提案します。国際的なガイドラインに基づき、最新動向や当社のAIセキュリティに関する知見を取り入れることで、最新の攻撃シナリオに対応するとともに、開発者が潜在的な脅威を把握し、優先度の高いセキュリティ対策を容易に検討できるようにしています。
ソース ヤフー
日本語