グローバルセキュリティエキスパートは、「AIプロンプト診断」と呼ばれる新しいサービスを開始しました。このサービスは、ChatGPT APIのようなツールを使用したアプリケーション内のプロンプトインジェクション、プロンプトリーク、データポイズニング、センシティブデータ暴露、幻覚関連の問題のようなAI特有のリスクに焦点を当てています。.
ここでの大きな問題は、ほとんどの企業がまだAIのセキュリティを通常のサイバーセキュリティと同じように扱っていることです。そうではありません。従来のセキュリティ・システムは、LLMベースの攻撃を想定して設計されていませんでした。このギャップは、現在、企業のAI導入において顕著になってきています。.
GSX このサービスは、OWASP LLM Top 10フレームワークに従い、8つの異なるリスクカテゴリにわたってAI環境をチェックするものです。これは、AIシステムがコンプライアンスやプライバシー、風評被害を引き起こす前に、企業が弱点を特定できるようにするものです。.
こちらもお読みください: KeeperがServiceNowでパスワード管理を拡張
今回の発売は、市場がどこに向かっているのかを示すものでもあります。AIの導入はもはや難しいことではありません。信頼を失う前にAIシステムを保護することが、企業の真の課題になりつつあります。.


