腕 は、新CPU「Arm Cortex-A320」とエッジAI向けの主要AIアクセラレータ「Arm Ethos-U85 NPU」を組み合わせたArmv9ベースのAIプラットフォームを発表しました。IoT向けに最適化されており、10億以上のパラメータを持つAIモデルをデバイス上で実行可能。Armの横山隆行社長兼CEOは、「今回発表するのは、クラウド側のAIではなく、エッジ側のAIです。ここまでAIが発達してくると、すべてのAIをクラウド側で動かすことは非常に難しくなってきています。AI革命が急速に進展する中、適切なAIワークロードを適切な場所で実行することが、さらなる進歩のためにこれまで以上に重要になっています。"今回発表されたArmv9エッジAIプラットフォームは、効率性、セキュリティ、インテリジェンスをエッジ側に集中させているのが特徴。2024年に発表されたCortex-M85ベースのプラットフォームと比較すると、機械学習(ML)の性能は8倍向上すると言われています。応用技術部の中島雅史部長は「トランスフォーマーベースのジェネレーティブAIが登場し、応用の流れが加速している」と強調。
今回発表されたCortex-A320は、Armv9アーキテクチャを採用した最もコンパクトなCPUです。サイズは小さいが、64ビットにすることで、非常に大きなパラメータモデルを使うことができるようになる "とのこと。Cortex-A320は、Armv9アーキテクチャの特徴である「SVE(Scalable Vector Extension)2」などを活用してML性能を向上させており、前世代の「Cortex-A35」と比較して、ML性能は10倍、スカラー性能は30%向上させることが可能。また、パイプラインを見直し、エネルギー効率の高いプロセッサを実現しました。上位モデルの「Cortex-A520」と比較すると、同じ処理を約50%の消費電力で実行できます。"Armv9 "をIoT機器に採用する最大のメリットは、セキュリティとAIコンピューティング性能の強化。
こちらもお読みください: 日本初、秘密計算でデータとAIを守るセキュリティサービス「AutoPrivacy AI CleanRoom」を提供開始
アーキテクチャはさまざまな面で強化されており、PAC(Pointer Authentication)やBTI(Branch Target Identification)といった機能は、ソフトウェアの脆弱性を排除する方向に進んでいます」(中島氏)。今後は、エージェントベースのAIアプリケーション向けにチューニングされた大規模言語モデル(LLM)や小規模言語モデル(SLM)を稼働させることで、エッジでのユースケースを拡大していく計画。「IoTの世界では、エッジAIが最も重要だと思います。数年前までは、ノイズを除去するフィルタリングや異常検知など、比較的単純な機能が多かったのですが、今は高度なユースケースの要求に応えるため、エッジ側のワークロードが複雑化しています。これを実行するためには、今よりも高い性能と効率が必要だと思います。また、FA(ファクトリーオートメーション)、スマートシティ、スマートホームといった分野からの需要も高いです」と、幅広い分野からの需要がある現状を語る横山氏。
SOURE ヤフー