ナレッジコミュニケーション、安全なGenAIソリューションを発表

ナレッジコミュニケーション 当社は、ジェネレーティブAIの導入・活用が加速する中、企業がジェネレーティブAIを安全・安心に業務に活用できるよう、ジェネレーティブAIセキュリティソリューションの提供を本日より開始します。.

本サービスは、Azure AI Content Safety、AWS Bedrock Guardrails、F5 AI Gateway、Cisco AI Defenseといった複数の先進技術を組み合わせ、プロンプトインジェクション、個人情報漏えい、偽情報の出力（幻覚）、悪意のあるデータ、誤学習（モデルポイズニング）といったジェネレーティブAIに関連する特定のリスクに対して、複数のセキュリティサービスを組み合わせることで、ニーズに合わせた柔軟な防御構成を提供します。ジェネレーティブAIの導入・活用が急速に進む中、組織が直面する新たなセキュリティ課題を包括的にカバーするサービスです。.

こちらもお読みください： HENNGE One、クラウドシステム "MENTENA "と提携

多くの企業で急速に導入・活用が進むジェネレーティブAIやAIエージェント。しかし、以下のようなLLM特有のセキュリティリスクが急浮上しています。.

プロンプト・インジェクション：不正な外部入力によってAIの動作が意図せず書き換えられるリスク

誤った情報、偏見、有害なコンテンツの発信：経営判断やブランド価値を毀損する可能性

RAG（Retrieval-Augmented Generation）構成の脆弱性：ベクトルDBに集約された機密データが狙われるリスク。.

ソース PRタイムズ