English 
ProVision Co., Ltd. 「AIシステムの脆弱性迅速診断」を公開した。これは、AI環境におけるセキュリティリスクを約1週間で特定することを目的としている。.
このレビューでは、さまざまな種類の入力から生じうる脆弱性を検証する。これには、テキスト、画像、音声、およびアップロードされた文書などが含まれる。.
このサービスは、プロンプトインジェクション、機密情報の漏洩、AIの意図しない動作、RAGシステムに関連する脆弱性などのリスクを検査する。一般的な評価に加え、対象となるAIシステムが情報をどのように受け取り、処理するか based on に基づいた追加の検査を組み合わせている。.
こちらもお読みください： UNDPとNECは、AIやその他のデジタル技術を活用して「自然との共生社会」を実現するための覚書に署名した
テキストベースのシステムについては、テストには多言語攻撃やエンコーディングに基づく攻撃、間接的なプロンプト注入、誤情報の流布などが含まれる。画像、音声、文書ベースのシステムについては、埋め込まれた指示、過度な自動処理、機密データの漏洩について評価が行われる。.
この診断アプローチは、LLMアプリケーション向けのOWASP Top 10に基づいている。このサービスの開始は、企業が従来のチャットボットからRAG、マルチモーダルAI、AIエージェントへと移行するにつれ、AIに特化したセキュリティテストへのニーズが高まっていることを反映している。.
日本語