神経グループ株式会社エヌ・ティ・ティ・ドコモは、2023年6月に発表した独自の大規模言語モデル「NEURAL.LLM」の商用320億パラメータLLMを、セキュアなオンプレミス環境に実装したことを発表します。
近年、ジェネレーティブAIやLLMのビジネス活用が加速していますが、ChatGPTのようなクラウド型のジェネレーティブAIやLLMサービスに機密情報や個人情報を送信することは、情報漏洩リスクやコンプライアンスの観点からハードルが高く、LLMの利用範囲を限定せざるを得ない企業が多くあります。当社が提供する「NEURAL.LLM」は、企業内の閉じたネットワーク内でのLLM利用を可能にします。これにより、安心して運用できる「セキュアなLLM」として導入が期待されています。
また、エッジAIの研究開発にも注力し、限られた計算資源でも高い精度を実現するAI開発力を磨いてきました。この考えに基づき、小規模なLLMモデルをベースに、対話と複雑な解析をリーズナブルな計算資源で実現できる環境を構築します。これにより、ユーザー側のサーバー投資を大幅に削減できる効果があり、LLMの安全かつ低コストな商用利用の実現に貢献できると考えています。
こちらもお読みください: 日立ソリューションズがアプリマーケットプラットフォーム「Alli LLM」を提供開始
NEURAL.LLM」を顧客企業に提供するだけでなく、自社で開発しているセキュアAIエージェントへの適用も進めていきます。
ソース PRタイムズ