English 
セールスフォースのCEO、マーク・ベニオフ氏は、人工知能（AI）業界が自らの技術の規制について責任を負う必要性について述べた。同氏は、企業がAIのリスクに対処しなければ、訴訟を起こされたり、政府による措置に直面したりする可能性があると警告した。この発言は、サンフランシスコで開催されたセールスフォースの「ドリームフォース」カンファレンスで行われたもので、同カンファレンスではAIエージェントや企業向け自動化が主なテーマとなっていた。.
ベニオフ氏の発言は、AIがどの程度のスピードで発展すべきか、またテクノロジー企業にはどの程度の責任が課されるべきかという議論が繰り広げられている中でなされたものだ。AIシステムの自律性が高まるにつれ、現在の安全対策が十分かどうかについて、多くのテクノロジー企業のリーダーたちが議論を交わしている。.
企業にとって、問題はもはや単にAIを導入すべきかどうかということではない。企業は今、AIシステムがビジネスデータと連携し、動作を許可された後、それをどのようにガバナンスすべきかを決定しなければならない。.
AIモデルから自律型エンタープライズシステムまで
Salesforceもまた、エージェント主導型のソフトウェアモデルへと移行しつつある。.
Dreamforce 2026において、SalesforceはAIforceを発表した。AIforceは、AIエージェントがAIインターフェースを介してSalesforceのデータ、ワークフロー、ビジネスロジック、権限、セキュリティ制御にアクセスできるようにするインターフェース層である。Salesforceによると、このアプローチにより、固定されたソフトウェアインターフェースから脱却し、AI主導の動的なインタラクションへと移行するという。.
同社はまた、Agentforceに職種別のエージェント機能を追加した。これらのエージェントは、営業、カスタマーサービス、コマース、IT、人事、バックオフィス業務向けに設計されている。Salesforceによると、新しいAgentforceの設計により、エージェントは他のエージェントと連携して業務を行うとともに、ビジネスルールや権限の範囲内で目標の達成に取り組むことができるという。.
この変更により、ガバナンスの重要性がさらに高まる。草案を作成するだけのAIシステムには、ある種のリスクがある。一方、記録を変更したり、顧客と連絡を取ったり、取引を管理したり、業務プロセスを開始したりできるエージェントには、また別の種類のリスクがある。.
なぜ自己規制が重要なのか
ベニオフの主張は、AIシステムにより大きな自律性が与えられる前に、企業はより強力な安全対策を講じる必要があるという、テクノロジー業界内で高まっている懸念を反映している。.
AIガバナンスには、モデルの精度以上の要素が含まれる。組織は、アクセス権限、データ保護、監査証跡、人的承認、セキュリティテストに加え、エージェントの挙動がビジネス要件に合致しない場合に、そのエージェントを停止または変更する能力についても考慮する必要がある。.
Salesforceによると、同社のAIシステムは、顧客が定義したビジネスルール、権限、およびセキュリティ制御の範囲内で動作するという。また、同社の「Agent Script」技術は、AIによる推論と決定論的なルールを組み合わせるように設計されている。.
企業のIT調達担当者にとって、AIプラットフォームを比較する際、こうした機能はますます重要になってくる可能性がある。.
日本の企業向けAI市場への影響
この議論は、製造業、金融サービス、小売、医療、顧客対応の各分野で企業がAIの活用を拡大している日本にとって、特に重要な意味を持つ。.
日本の企業は、顧客や従業員、業務に関する機密データを含む大規模な技術環境を運用していることがよくある。こうしたシステムにAIエージェントを連携させることは生産性向上の機会をもたらす一方で、誰が情報にアクセスできるのか、また自律型システムがどのような行動をとることが許されるのかといった疑問も生じさせる。.
これにより、AIガバナンス・プラットフォーム、IDおよびアクセス管理、サイバーセキュリティ監視、モデル評価、エージェントの可観測性に対する需要が高まる可能性がある。.
日本のテクノロジー企業は、業界ごとに特化したAI制御システムの開発においてもビジネスチャンスを見出せる可能性がある。金融機関、製造業、病院では、自律型システムがデータにアクセスしたりタスクを実行したりする方法について、それぞれ全く異なるルールが必要となる場合がある。.
AI規制はビジネス上の要件となる可能性がある
ベニオフ氏のコメントは、エンタープライズAIの経済性における潜在的な変化も浮き彫りにしている。.
組織は今後ますます、ベンダーに対し、AIシステムが何ができるかだけでなく、その動作をどのように制御・監査できるかを示すことを求めるようになるだろう。権限管理、人間による承認ワークフロー、トレーサビリティ、データの分離といった機能が、調達要件の一部となる可能性がある。.
これにより、AIアプリケーションそのものに加え、AI保証サービスや技術の市場も拡大していく可能性がある。.
AIの機能が向上しても、規制に関する課題が解消されることはまずないだろう。各国政府は、透明性、安全性、データ保護、説明責任を網羅する枠組みを策定している一方、企業は責任あるAI導入に向けた社内方針を策定している。.
エンタープライズAIの新たな局面
AIの規制をめぐる議論が繰り広げられる一方で、セールスフォースなどの企業は、AIエージェントを日常のビジネスプロセスにさらに深く導入しようとしている。.
こちらもお読みください： Things、AI Librariumと提携し新事業を展開する
その組み合わせは重要だ。AIが情報の生成から行動の遂行へと移行するにつれ、ガバナンスは単なる企業方針の問題ではなく、技術アーキテクチャの一部となっていく。.
日本のエンタープライズ技術市場において、これは、AI導入の次の段階が、モデルの性能だけでなく、セキュリティ、説明責任、および管理によって形作られることになるかもしれない。.
Salesforce‘同社の戦略は、エンタープライズソフトウェアがいかに急速にエージェントベースのシステムへと移行しつつあるかを示している。ベニオフ氏の警告は、その移行に新たな側面を加えている。つまり、AIが組織に代わって行動する能力を高めていくにつれ、そうした行動を制御する仕組みは、その背後にある知能と同じくらい重要になる可能性があるのだ。.
日本語