人とAIの協働による「豊かな世界の創造」を目指す株式会社ABEJAは、独立行政法人新エネルギー・産業技術総合開発機構が主導する「GENIAC(Generative AI Accelerator Challenge)」の「ポスト5G情報通信システム基盤強化研究開発事業/競争的生成AIプラットフォームモデルの開発(補助金)」に採択され、LLMおよび関連技術の研究開発を進めています。
その一環として、2025年1月に発表した32BサイズのコンパクトLLMをベースに推論機能を向上させた推論モデル「ABEJA QwQ-32B推論モデル」を構築しました。このモデルは、32Bサイズでありながら、汎用言語性能指標であるMT-Benchにおいて、OpenAIの「GPT-4o」や「o1-preview」を上回る性能を達成しています。
ABEJAは、「豊かな世界の実現」を経営理念に掲げ、基幹業務へのAI導入を支援するプラットフォームシステム「ABEJA Platform」の開発・導入・運用を行う「デジタルプラットフォーム事業」を展開しています。ABEJA Platformは、基幹業務向けの堅牢かつ安定したプラットフォームシステムおよびアプリケーション群であり、人とAIの協業によるジェネレーティブAIなどの最先端技術の運用を可能にします。ABEJAは、2012年の創業以来、ABEJA Platformの研究開発を進め、数々の導入を推進することで「テクノロジーの力で産業構造を変革する」ことに取り組み、顧客企業からの信頼を得ています。
こちらもお読みください: 富士通の「高根」LLMがNutanix Enterprise AIで利用可能に
ABEJAは、2024年2月の第1期「ポスト5G情報通信システム基盤強化研究開発事業/ポスト5G情報通信システム開発」に続き、2024年10月のGENIAC「競争的生成AIプラットフォームモデルの開発」に採択されました。
ABEJAは、LLMの社会実装における最大の課題は「精度とコストのトレードオフにある」と考え、この課題を解決するためにLLMの研究開発を進めてきました。32B小型モデルは、複数の汎用言語性能指標においてGPT-4を上回る性能を達成しており、LLMが抱える「精度とコストのトレードオフという課題」を克服したとABEJAは考えています。
LLMの推論能力をさらに強化する推論モデルは、数学とコーディングに強みを持ち、複数の推論プロセスを統合することで、より複雑な論理的思考を行います。その代表例が「OpenAI o1」や「DeepSeek-R1」です。その規模は、「OpenAI o1」が数千億パラメータ、「DeepSeek-R1」が6710億パラメータと推定されています。
ABEJAでは、コンパクトな推論モデルをビジネスプロセスに導入することが、適用範囲の拡大、アウトプットの信頼性・汎用性の向上につながると考え、32Bコンパクトモデルをベースとした「ABEJA QwQ-32B推論モデル」を開発しました。
その"アベジャ QwQ-32B推論モデル」は、OpenAIの「GPT-4o」や「o1-preview」を超える性能を実現しながら、320億パラメータという圧倒的な小ささを実現しています。そのため、オフィスや工場など様々なエッジ環境での実装が可能です。精度、コスト、利便性において、画期的な実用性を提供できると考えています。
ソース PRタイムズ