English 
企業のAIワークロードを立ち上げる際、コスト、速度、セキュリティ、スケーラビリティといった要件がすべて相反する方向に向かっている場合、どこで実行すべきだろうか。 AIをプロトタイプから本番環境へ移行する過程で、多くの企業が見落としがちな問題が明らかになった。モデル自体は機能するかもしれないが、それを実行するエンジンによっては、コストが高くなったり、処理が遅くなったり、スケーリングが不可能になったりするのだ。.
Google Cloudが2026年7月に実施した調査によると、 83% 調査対象となったIT部門の上級意思決定者のうち、現在のインフラが本番環境向けのエージェンティックAIの要件を満たしていないと答えた。問題は、ワークロードのニーズに基づいて、パブリッククラウド、オンプレミスのデータセンター、エッジの要件のどれを選択すべきかをどう判断するかだ。.
AIワークロードのスペクトルを理解する
多くの企業は、どこでAIを実行するにせよ、まずそのワークロードがどのような役割を果たすのかを把握する必要があり、トレーニングと推論に最適な環境は大きく異なる場合がある。トレーニングと推論ではインフラに求められる要件が異なるため、単一の環境では両方に適さない可能性がある。 トレーニングではモデルを作成するために大量の入力データが必要であり、推論ではその学習済みモデルを用いて予測、意思決定、または出力を生成する。.
トレーニングには高性能なGPUやTPUが必要になる場合があり、 high-bandwidth 通信チャネルに加え、大規模な学習データを処理し、モデルパラメータを更新するための十分な計算能力も必要となる。このような負荷の高い処理は、集中型のクラウドインフラや専用のデータセンター上で実行できる。.
推論においては、応答時間、コスト、そして推論をアプリやユーザーのどこに配置すべきかが重要となる。企業は要件に応じて、エッジ、クラウド、またはオンプレミスのいずれかに推論を配置することができる。.
今日のAIの活躍の場
AIワークロードの適切な配置先を選ぶための鍵は、ワークロードが実行される環境の機能を評価することにある。パブリッククラウド、オンプレミスデータセンター、エッジコンピューティングは、それぞれ異なる利点を持つ3つのコンピューティング環境であり、企業のAI戦略においてそれぞれの役割を果たすことができる。.
1. パブリッククラウド：俊敏性と無限の拡張性
パブリッククラウドは、要件が急速に拡大する状況で、ハードウェアの調達を待つ余裕がない場合に非常に有用だ。パブリッククラウドは、基盤モデルのトレーニング、プロトタイピング、および急速に変化するワークロード要件への対応に最も適している。MLOpsサービスを利用すれば、インフラストラクチャ層を管理することなく、モデルの開発、デプロイ、更新を行うことができる。.
しかし、その柔軟性にはコスト面での考慮事項も伴う。GPUワークロードは高額になりがちであり、データストレージ、ネットワーク転送、エグレス料金などが、チームが計画し忘れてしまうような予期せぬコストとして容易に発生してしまう。 基盤モデルの大規模なトレーニング実行には、物理的な制約もある。Google Cloudによると、トレーニングが単一拠点の可用電力や物理的な設置面積の限界を超える場合、高帯域幅のネットワークを利用して複数のデータセンターを接続することができるという。.
2. オンプレミス型データセンター：管理、コスト、コンプライアンス
オンプレミス型インフラストラクチャは、企業が自社のハードウェア、データ、セキュリティポリシー、および運用環境を直接管理することを可能にする。また、ハードウェアへの投資を正当化できるほどの処理量がある、予測可能で継続的な推論ワークロードにも適している。 また、企業は管理された環境下で、自社のデータを用いてオープンソースの大規模言語モデルをカスタマイズできるため、機密データを外部サービスに送信する必要がなくなる。.
コストとトレードオフのバランスを計算するのは難しい。一方で クラウド クラウドサービスは多くの場合、分単位や時間単位で課金されるが、GPUやネットワーク機器、システムインフラの購入は資本集約的な投資であり、運用コストは予測可能で、クラウドの課金体系よりも事前に見通しが立てやすい場合がある。もっとも、これは利用率、ハードウェアの更新サイクル、エネルギーコスト、必要な人員数によって異なる。 未使用のハードウェアは莫大なコストにつながる可能性がある一方で、設計上の容量制限が成長の妨げになることもある。規制上の問題により、オンプレミスでの保有がより必要となる場合さえあるが、だからといってすべてをオンプレミスでホストする必要があるわけではない。.
3. The Edge：超低遅延とリアルタイムのアクション
エッジにおける人工知能は、データソースや意思決定ポイントにより近い場所で人工知能を適用することを可能にする。したがって、工場のコンピュータビジョン、ロボティクス、産業用IoT、物理環境に基づくアプリケーションなどの分野で活用できる。エッジを活用すれば、写真や測定値を一つひとつクラウドシステムに転送することなく、データをローカルで分析することが可能になる。.
生データを送信する必要がないため、インターネット接続への依存度を低減し、ネットワークトラフィックの量を削減できる。さらに、この手法は、接続が制限されている、あるいは接続がない環境でも利用できる。エアギャップ環境では、必要なモデル、データ、インフラがローカルに存在すれば、外部ネットワークにアクセスすることなくローカル推論を実行できる。 ただし、エッジインフラは集中型インフラに比べて演算能力、メモリ、ストレージが限られているため、制約条件も考慮する必要がある。これは、企業がモデルのサイズ、精度、更新頻度、およびエッジ側の演算能力のバランスを取る必要があることを意味する。.
AIワークロード決定マトリックス
まずは4つの質問から始まる。これらは、ITリーダーがパフォーマンス、コスト、データセキュリティ、インフラを管理する上で役立つ。.
- データの機密性はどの程度か、またデータの移動は容易か。
ビッグデータの場合、転送にはコストがかかり、時間もかかる。データの主権、コンプライアンス、機密データに関しては、オンサイトまたは承認された場所での保管が必要となる場合がある。これはHIPAAやGDPRにおける要件ではない。マイクロソフトは、データの機密性や規制、遅延、接続性、運用アクセス、および耐障害性について検討することを推奨している。.
- AIはどのくらいの速さで回答する必要があるのか？
障害の特定、ロボットの制御、あるいは数ミリ秒以内にセンサー入力に応答する必要があるユースケースでは、エッジ推論が用いられる。データ処理をローカルで行うことで、ネットワークの遅延を最小限に抑えることができる。それほど厳しい遅延要件がない場合は、クラウドやデータセンターで処理を行うことが可能だ。.
- 需要はどの程度予測可能か。
ワークロードが比較的持続的で安定している場合は、専用インフラで対応できるかもしれない。専用インフラにおいて、ワークロードが十分に大きい場合、ハードウェア、電力、および保守のコストを正当化できるだろう。.
- 資源の有効活用によってコストを削減できるだろうか？
追加のGPUを導入する前に、既存のインフラストラクチャのベンチマークを実施する。例えば、あるAWSの音声認識導入事例では、NVIDIA Multi-Process ServiceとTriton Inference Serverを活用することで、必要なGPUインフラストラクチャの量を 75% このユースケースにおいては、報告されている動作点において、1秒未満の文字起こし遅延を維持しつつ。.
配置は、一つの環境ですべてに対応できるという誤った前提ではなく、実際の作業負荷の要件と総所有コストに基づいて行うべきだ。.
ワークロード配置の実践
だからこそ、AIワークロードの配置においては、タスク、環境、データの性質が重要となるのだ。.
製造： エッジベースのコンピュータビジョンを搭載した生産ラインは、製品が通過する際に問題を検知できる。デバイス上での推論により、各映像データをクラウドに送信することなく、製品の不具合をリアルタイムで検出できる。ある企業の産業用アーキテクチャは、 AWS また、Edge Impulseはローカルでの物体検出に加え、クラウドベースのオーケストレーションと自然言語処理を活用することで、送信される生動画の量を最小限に抑え、通信環境の制約を補う。.
金融サービス： ハイブリッド型のアプローチは、銀行が顧客に寄り添い、リスクを分担するのに役立つ。チャットボットなどの顧客向け機能は、スケールアップ・スケールダウンが可能なクラウドインフラ上で稼働させることができ、一方、不正検知機能は、データセキュリティ、アクセス、統合に関する考慮事項がオンサイト運用にはるかに適した、管理された環境下でオンプレミスで稼働させることができる。.
病院が患者情報の管理強化を求め、他の臨床システムとの連携を強化する必要がある場合、AI医療画像ソリューションをオンプレミスで導入することができる。しかし、規制上、必ずしもオンプレミスでの導入が義務付けられているわけではない。規則やセキュリティ、患者データの取り扱い方法によっては、許可されたクラウド環境も選択肢の一つとなる。.
これらの例が示すように、AIワークロードのインテリジェントな配置とは、AIシステムのあらゆる側面を一か所に集約しようとするのではなく、AIシステムのさまざまな側面を環境間でバランスよく配分することである。.
未来はハイブリッドだ
成功する可能性は低い AIインフラ この戦略では、1種類の環境のみを対象とする。ハイブリッドAIインフラの場合、コンピューティングリソースの利用やスケーリングには引き続きクラウドを活用し、ワークロードの制御が必要な場合はデータセンターを利用し、重要な意思決定にはエッジデバイスを活用することができる。.
こちらもお読みください： AsiaQuestとリコー、AIエージェントの統合を試験的に実施
Kubernetesなどのコンテナ化ツールは、環境を横断してアプリケーションを展開・実行するのに役立つ。また、統一されたGenAIOpsの原則を活用することで、監視、制御、パフォーマンス管理に向けた単一のアプローチを構築できる。ワークロードの移行が必要だが、その際には互換性、データへのアクセス、セキュリティといった課題を考慮しなければならない。.
結論
組織が〜から移行するにつれ、AIワークロードの配置は、インフラストラクチャに関する重要な決定事項の一つとなる見込みだ。 パイロットたち デプロイメントにおいて。必要なのは、各ワークロードに、演算能力、レイテンシ、データ管理、コストの適切な組み合わせを適合させることだ。それぞれのアプローチにはメリットがあるものの、あらゆるユースケースに自動的に適用できる解決策を提供するものはない。 今必要なのは、実際のワークロードシナリオを分析し、テストを通じてパフォーマンスを検証し、インフラの決定に先立って総所有コスト（TCO）を算出することだ。要は、ビジネスニーズに基づいてAIインフラを設計し、その基盤となるデータの安全性を確保し、演算能力の価値を最大化することだ。.
日本語