株式会社リブラスジェネレーティブAIを活用し、システムに潜むセキュリティリスクを可視化・分析する「ジェネレーティブAIセキュリティ診断サービス」の提供を開始しました。
近年、ジェネレーティブAIの活用がビジネスのあらゆる分野に広がるにつれ、"即時注入"、"即時漏洩"、"幻覚 "など、従来のセキュリティ対策では十分に対応できない新たなリスクが顕在化しています。
例えば、AIに意図的な質問をして機密情報を引き出す攻撃や、APIキーや社内プロンプトが外部に流出するケース、さらにはAIの暴走による不正解や不適切な表現が企業のブランドや信用を毀損するなど、AI時代ならではの脅威が現実のものとなりつつあります。
こちらもお読みください： IBM、エージェントベースのAIによる自律型セキュリティを発表
こうした課題に対し、私たちはセキュリティ診断で培った知見を活かし、ジェネレーティブAIに特化した新たな診断メニューを開発しました。
ソース PRタイムズ
