伊藤忠テクノソリューションズ株式会社は、金融機関向けにアプリケーションやシステム基盤、AIサービスを提供する「C-NOAH」に、AIガバナンスを強化する機能を追加しました。本機能は、Dynamo AI社のAI監査ツール「Dynamo Guard」を活用することで、AIが虚偽の情報を生成する現象「幻覚」を抑制し、C-NOAHのAIチャットボットの信頼性向上につなげるものです。
近年、業務の高度化・効率化を目的にジェネレーティブAIを活用する企業が増加する中、AIが事実に基づかない誤った情報を生成する幻覚と呼ばれる現象が問題となっています。幻覚は、プロンプトの内容が不適切であったり、学習データの質や量が不十分であったりすることでジェネレーティブAIで発生する可能性があるため、企業ではプロンプト作成のトレーニングや学習データの定期的な見直し、業務での利用範囲の限定などの対策が進められています。
このたびCTCは、ダイナモガードを活用し、C-NOAHを生成するAIチャットボットに幻覚抑制機能を追加しました。金融機関においては、誤った情報の提供が、顧客や従業員の不適切な投資判断や顧客情報の漏洩につながる可能性があるため、CTCは、AIチャットボットからの回答精度を向上させることで、インターネットバンキングやFAQシステムにおける問い合わせの正確性・信頼性の向上を目指します。
こちらもお読みください： ネットスターズ、ストライプと提携しQRコード決済に対応
Dynamo Guardは、入力されたプロンプトが企業のコンプライアンスポリシーに合致しているかをリアルタイムに検証するAI監査ツールです。コンプライアンスの観点から不適切と判断される内容が入力された場合、そのプロンプトはAIの学習データとして利用されず、回答生成は自動的に停止します。また、生成された回答は、公的機関や業界団体、企業などの公式データなど信頼性の高い情報と比較され、回答の正確性が数値化されて評価されます。評価結果が一定水準を下回ると、画面上にアラートを表示して注意を促します。
今後について CTC 今後も、幻覚抑制をはじめとするAIガバナンスの強化、お客様の業務に合わせた「C-NOAH」のカスタマイズ、新規アプリケーションの開発を進めるとともに、生成型AIの信頼性向上と安全な活用を通じて、金融業界における業務の高度化・効率化を支援してまいります。
ソース PRタイムズ
