English 
12月25日、リコーは、新開発の "セーフガードモデル” は、大規模言語モデル（LLM）によって生成された有害な情報を検出するために設計されています。今回のアップデートは、従来の入力フィルタリングにとどまらず、問題のあるLLMの出力を監視してブロックすることで、エンタープライズAI導入のための多層ガードレール・アーキテクチャを構築し、ジェネレーティブAIの安全性を大きく進化させます。.
ジェネレーティブAIの活用が各業界で進むにつれ、誤報や情報漏えい、差別、不適切なコンテンツへの懸念が高まっています。今回の発表は、こうしたリスクに真正面から取り組むものです。特に日本では、AIシステムに対する企業のニーズが高まっています。単に強力なだけでなく、信頼性が高く、監査が可能で、ビジネスや規制のニーズに沿ったシステムを求めています。.
プロンプト・フィルタリングからフルスタックAIセーフティへ
最近まで、ほとんどのガードレール・システムは、次のような点に重点を置いていました。 有害なプロンプト LLMによって処理される前に。しかし、このアプローチには明らかな限界があります。安全な入力であっても、高度なモデルでは、幻覚や文脈の誤解、あるいは意図しない推論経路によって、問題のある出力を生成する可能性があります。.
リコーの新しいセーフガードモデルは、LLMによって生成される入力プロンプトと応答の両方を監視することで、このギャップに対処します。この二重の検知により、実行前だけでなく、コンテンツ生成後にも介入することが可能となり、有害な情報がユーザーや下流のシステムに流出するリスクを大幅に低減します。.
この開発は リコーの 2024年10月、LLMの社内安全活動を開始。2025年8月には有害プロンプト検出機能をリリースし、RICOHオンプレミスLLMスターターキットに標準搭載。今回発表された出力検出機能により、この安全ループが完成し、エンタープライズ向け生成AIの堅牢な深層防御モデルに近づきます。.
こちらもお読みください： デジタル証券、3億円のシリーズAラウンドを完了、資金調達総額は15億円に
技術振興財団と日本語最適化
Safeguard Modelは、Meta社が開発したMeta-Llama-3.1-8Bの改良版であるLlama-3.1-Swallow-8B-Instruct-v0.5をベースにしています。リコーは、国内の企業環境で正確なコンテンツ分類を行うために重要な要件である日本語の理解度を向上させるために、この基盤を選択しました。.
日本語のニュアンスに合わせてモデルを微調整することで、セーフガードシステムは文脈、トーン、意図を理解することができます。これらの要素は、ルールベースのシステムが見落としがちな微妙な有害コンテンツを発見するための鍵となります。.
モデルは何千ものデータセットで学習されました。これらは14のリスクラベルに分類されています。その中には暴力、犯罪、差別、プライバシー侵害、その他のデリケートなトピックが含まれています。このフレームワークは、システムが明確なリスクと隠れたリスクの両方を発見するのに役立ちます。有害なプロンプトや応答が使用されたり共有されたりする前にブロックします。.
リコーによると、このモデルの性能評価では、他のベンダーの同等のガードレールソリューションよりも高い検出精度を達成しており、このアプローチが成熟していることを裏付けています。.
日本のハイテク産業への影響
責任あるAIの基準を高める
リコーの発表は、日本の技術産業におけるより大きな変化を示しています。それは、責任ある、企業レベルのAI利用に向かっていることです。企業がジェネレーティブAIを試験運用から本運用に移行するにつれ、出力ガードレールのような安全対策が極めて重要になります。それらはもはやオプションではなく、むしろ不可欠なインフラになるでしょう。.
この変化は、他の日本のハイテク企業にも影響を与える可能性があります。特に、LLMプラットフォーム、AIサービス、または業界に特化したAIツールを持つ企業に当てはまります。同様の多層安全設計を採用し始めるかもしれません。時間の経過とともに、出力を意識したガードレールは、規制された分野やリスクに敏感な分野で販売されるAI製品の基本的な期待になるかもしれません。.
日本のガバナンス優先のAI文化との整合性
日本は、新興技術への取り組みにおいて、一貫してガバナンス、信頼、リスク管理を重視してきました。リコーのオンプレミス型のカスタマイズ可能なセーフガードモデルは、この哲学に合致しており、各企業がそれぞれのビジネスやコンプライアンスの文脈の中でAIがどのように振る舞うかをコントロールすることができます。.
このアプローチは、画一的なクラウド・モデレーション・システムとは対照的であり、企業向けの安全なジェネレーティブAIアーキテクチャのリーダーとしての日本の地位を強化するかもしれません。.
日本における事業への影響
企業にとって、有害なAIの出力を検出し、ブロックする能力は、直接的な業務上の価値と風評上の価値があります。.
法的リスクと風評リスクの低減
金融、医療、製造、公共サービスなどの分野では、不適切なAI出力が1件でも発生すると、コンプライアンス違反や信頼の失墜につながる可能性があります。出力レベルのガードレールは、AIが生成するコンテンツが企業ポリシーや社会規範に沿ったものであることを保証することで、このようなリスクを低減します。.
信頼性の高いAIの迅速な導入
ジェネレーティブAIの導入における最大の障壁の1つは、意図しない結果に対する恐れです。リコーのソリューションは、入力と出力の両レイヤーに安全性を組み込むことで、リスクの閾値を下げ、社内ワークフロー、カスタマーサポート、ナレッジマネジメントなど、より広範にAIを導入することを可能にします。.
ビジネス・コンテクストのカスタマイズ
リコーは、業務に関係のないコンテンツをブロックするなど、一般的な被害防止にとどまらないカスタマイズを可能にする計画を示しています。文脈を考慮したAIへの扉を開きます ガバナンス, モデルでは、普遍的な安全ルールだけでなく、組織の目的や生産性の目標によっても制約を受けます。.
今後の展望
リコーは、新しいセーフガードモデルをRICOHオンプレミスLLMスターターキットに標準搭載します。これは、セキュアでエンタープライズ対応のジェネレーティブAIに対するリコーのコミットメントを示すものです。説明可能で、制御可能で、コンプライアンスに準拠したAIへの需要が高まる中、アウトプットを意識したガードレールは、AI導入の次の段階を形作ることになるでしょう。.
信頼が性能と同じくらい重要な市場において、リコーの動きは重要な真実を示しています。ジェネレーティブAIの未来は、モデルが何を創造するかだけでなく、いかに安全かつ責任を持ってそれを行うかにかかっています。.
日本語