AI & 機械学習

エージェントがより適切に委任を行う方法

2026年9月4日

Nenad Tomasev

Research Scientist, Google DeepMind

Reshu Yadav

Applied AI Blackbelt, Google Cloud

Try Gemini Enterprise today

The front door to AI in the workplace

Try now

※この投稿は米国時間 2026 年 8 月 22 日に、Google Cloud blog に投稿されたものの抄訳です。

組織行動論の授業では、効果的な委任が経験豊富なリーダーにとって最も重要なスキルの一つであると生徒は学びます。有意義な作業を完了するには、プロジェクトを管理可能なタスクに細分化し、そのタスクをチームのスキルにマッピングして、適切な担当者に割り当てることから始めて、慎重に調整する必要があります。

Google Cloud では、エンタープライズワークフローにおける AI エージェントの構築とデプロイに関しても、同様の教訓を得ています。これらのワークフローには、複雑なタスクを分割して実行できるマルチエージェントシステムが最適です。そのためには、AI エージェントが優れた委任者になる必要があります。

その方法を学ぶために、Google DeepMind の研究に目を向けました。最近の研究「Intelligent AI Delegation」では、委任自体にインテリジェンス、具体的には、適応型の交渉、正式なコントラクトに基づく調整、セキュリティガードレールがどのように関わっているかが実証されています。

この研究により、コミュニケーション、タスクの共有、設定された目標に向けた調整が可能な AI エージェントを構築するお客様に新たな機会がもたらされます。今回は、その研究から生まれた 4 つの原則と、それらを独自のワークフローに適用する方法をご紹介します。

原則 1: 委任された作業を検証する

AI にタスクを委任することを許可する場合、単に作業を任意に割り当てる以上のことが AI に求められます。エージェントは、作業を、確実に検証できるタスクにインテリジェントに分割する必要があります。Google の研究では、これを「コントラクトファーストの分解」と呼んでいます。

人間が委任を行う場合と同様に、これには慎重な検討が必要です。人間の場合、リーダーがチームの強みを理解し、完了前に作業を確認することなどが考えられます。AI にも同様の学習曲線があります。オーケストレーション AI（マルチエージェントシステムの最上位に位置するマネージャー）は、作業を最適に分解して割り当てる方法について複数の計画を検討し、サブ目標を、監視および検証できるほど単純になるまで、より小さなチャンクに分解し続けます。理想的には、すべてを確実に評価できる計画を立てる必要があります。しかし、実際には、これを常に実現できるとは限りません。

場合によっては、期待どおりに作業が完了したかどうかを主観的に評価する必要があるかもしれません。このようなコンポーネントを特定することは、問題にはならず、むしろ、人間の時間をどこに費やすのが最適か、エージェントシステムの監視に人間の専門家の判断をどのように関与させるのが最適かを判断するのに役立ちます。

原則 2: 費用を賢く管理する

この研究フレームワークは、お客様からよく寄せられる「この特定のタスクは、より小さく、より安価なモデルで処理できるか？」という質問に答えるのに役立ちます。企業は費用にますます注意を払うようになっており、それは当然のことです。

パフォーマンスと予算の適切なバランスを見つけるのは難しいことです。給与計算のような複雑な問題を軽量モデルに任せても、期待する結果を得るだけの能力がない可能性があります。また、スプレッドシートの形式の再設定のような単純なタスクを強力な推論モデルにルーティングすることは不必要です。

研究によると、委任についてインテリジェントなエージェントは、このようなシナリオを認識し、各タスクに適したツールまたはエンドポイントを選び、最小限のコストで望ましい結果と最大限の信頼性を実現することを学習します。API ゲートウェイ内のモデルルーティング機能の使用は、クライアントサイドプロキシの使用の代替手段（LiteLLM など）に加えて、お客様の間で人気が高まっています。

モデルルーティングについて詳しくは、こちらをご覧ください。

原則 3: 機密データを尊重する

多くのワークフローは非公開の機密データを処理するため、AI エージェントはそれらの境界と権限を尊重する必要があります。たとえば、給与データ用のオーケストレーターエージェントをデプロイする場合、そのエージェントが一連の情報全体をサブエージェントに渡すことがあってはなりません。これが発生すると、セキュリティが損なわれるだけでなく、エージェントのコンテキストウィンドウが肥大化し、パフォーマンスが低下します。エージェントには、特定の任務を完了するために必要な最小限の権限のみを付与する必要があります。

難しいのは、最初の原則に従って、非公開の情報を明らかにすることなく、作業が確実に完了したことを証明する必要がある場合です。研究によると、ゼロ知識証明などの手法による高度な暗号化が、この問題の解決に役立つ可能性があります。ゼロ知識証明により、一方の AI エージェントが、データ自体を明らかにすることなく、計画された計算が正しく実行されたことをもう一方の AI エージェントに証明できます。たとえば、機密性の高いデータセットの分析を任されたエージェントは、結果の特定のプロパティを証明する簡潔で非インタラクティブな知識の論証を生成できます。これにより、委任者は証明の有効性を即座に検証できます。

原則 4: 無関心圏に注意する

無関心圏とは、アメリカの企業経営者であるチェスターバーナードが 1938 年に著した『The Function of the Executive（経営者の役割）』で用いた造語であり、従業員が疑問を抱くことなくタスクを受け入れる心理的スペースのことを意味します。通常、このタスクは従業員の業務範囲内にあるため、無意識のうちに受け入れてしまいます。たとえば、営業担当者が、重要な顧客との今後のプレゼンテーションに参加するようマネージャーから指示された場合、おそらく反論したり、深く考えたりすることはないでしょう。

研究で示されているように、現在の AI システムは、トレーニング後の安全フィルタとシステム指示によって定義されています。リクエストが重大な違反を引き起こさない限り、モデルはリクエストに従います。しかし、台頭しつつあるエージェント型ウェブを考慮すると、リクエストに従うというこの行動は実際にはシステム上のリスクを生み出す可能性があります。研究で言及されているように、「委任チェーンが長くなると（? → ? → ?）、広範な無関心圏により、微妙な意図の不一致やコンテキストに依存する危害が下流に急速に伝播する可能性があり、各エージェントは責任あるアクターではなく、無思考のルーターとして機能します。」

これは重大な影響を及ぼします。なぜなら、インテリジェントな委任には「動的な認知的摩擦」が必要であることを意味するためです。つまり、エージェントに提供される情報を検証して、その情報が正確で、関連性があり、管理されており、効率的であることを確認する必要があるということです。

このようにして、エージェントは、リクエストがあまりにも曖昧なために、無関心圏から脱却することを正当化し、委任者に異議を唱えたり、人間の検証を要求したりする必要がある場合に、それを認識できます。同様に、人間の参加と監督は、ある程度の認知的摩擦と積極的なエンゲージメントを前提としていますが、システムのユーザーに過度の負担をかけないように、慎重に管理する必要があります。人間の時間は貴重であり、必要な場合にのみ人間の介入を要求する必要があります。