お客様とのコラボレーションが切り拓く、Model Armor による生成 AI セキュリティの未来

※この投稿は米国時間 2026 年 6 月 16 日に、Google Cloud blog に投稿されたものの抄訳です。

Google Cloud では、最高のプロダクトはお客様とのパートナーシップを通して構築されると考えています。お客様からのフィードバックや実際の経験は、Google のサービスを改良し、お客様の実際のニーズを満たすソリューションを提供するうえで非常に貴重です。2026 年 1 月、Google Cloud デベロッパー アドボカシー チームは、Google Cloud の大手顧客であり、通信業界のリーダーでもある企業との高ベロシティな技術スプリントに参加しました。

この共同作業を通じて得られた深いインサイトは、生成 AI およびエージェント AI 向けランタイム セキュリティ サービスである Model Armor の情報エクスペリエンスを大幅に向上させる原動力となりました。

「徹底した当事者意識」による生成 AI 導入の加速

この取り組みの目的は、Google Cloud の Agent Development Kit（ADK）と Agent Platform を使用して構築された、次世代の生成 AI カスタマー サポート プラットフォームの運用化を支援することでした。お客様の開発者やセキュリティ スペシャリストと直接対話することで、開発者が複雑なライブ環境で Gemini Enterprise Agent Platform をどのように操作しているかを観察するという貴重な機会を得ることができました。

この経験は、従来のドキュメント作成サイクルからは決して得られない、徹底した当事者意識をもたらしました。開発者が作業する際の摩擦ポイントを一つひとつ記録していくことで、機能的障害をリアルタイムの技術的インサイトへと変換し、曖昧な構成ガイダンスや詳細情報の欠如によって開発者が作業を妨げられている部分を正確に特定しました。

現場で得られた重要な知見

開発ワークフローを直接見せていただくことで、4 つの重要な摩擦ポイントを特定できました。

• 検索ファーストのワークフロー: 開発者がドキュメントの階層構造を順に辿ることは稀です。それよりも検索を駆使して、目的のコード例へ直接ジャンプすることがほとんどです。PII の秘匿化など、一般的なユースケースに対応する包括的でコピー＆ペースト可能なスニペットがないことが主な摩擦ポイントとなっていました。

• 信頼レベルの最適化: 包括的な脅威検出と、業務の妨げとなる誤検出の抑制との適切なバランスを見出すことは、想像以上に困難でした。たとえば、「低以上」といった厳格な設定を適用すると、本来スムーズであるべきカスタマー サポートの流れを止めてしまうような誤検出が頻発する結果となりました。

• きめ細やかなガイダンスの必要性: Model Armor の基本コンセプトは理解されているものの、セキュリティと利便性を両立させるためのさまざまな適用方法が実務レベルでどう機能するのかに関する、より具体的な詳細情報が必要とされていることがわかりました。

• インテグレーションを阻む壁（403 エラー）: Model Armor を Apigee などのサービスと連携させる際、開発者は 403 PERMISSION_DENIED エラーという壁に何度も突き当たっていました。これは、既存ドキュメントにサービスをまたぐ IAM ロールや権限の設定に関する説明が不足していたことを浮き彫りにしました。

知見を実践的に活用

このパートナーシップから得られた知見は、Model Armor のドキュメントとガイダンスの包括的な見直しにすぐに活かされました。

• テスト済みのコピー＆ペースト可能なコードサンプル: 検索ファーストのワークフローに対応するため、ドキュメント全体にテスト済みのすぐに使用できるコードサンプルを多数追加しました。

• 信頼レベルのマトリックス: フィルタレベルごとのトレードオフをユーザーが直感的に把握できるよう、新たな技術リファレンスを追加しました。一般的なコンテンツについては、誤検出を最小限に抑えるために「高」または「中」のしきい値が推奨されることを明記しました。一方、「低以上」の設定は、プロンプト インジェクションやジェイルブレイク検出などの重大なセキュリティ脅威に限定して使用することを推奨しています。

• 明示的なインテグレーション ガイド: Apigee、Gemini Enterprise Agent Platform、GKE に焦点を当ててインテグレーション ガイドを更新しました。新しいガイドでは、スムーズでエラーのないデプロイにするために必要な特定の IAM ロール（roles/modelarmor.user など）が明示されています。

• 技術ドキュメントの拡充: 適用方法と現実世界におけるその応用例について、より深く踏み込んだ解説を追加してドキュメントを強化しました。

パートナーシップの力

今回は実際にお客様と「同じ部屋で過ごす」ことで、技術的な正確さと運用上の有用性のギャップを埋めることができました。こうした共創の取り組みにより、Model Armor はお客様の成功を後押しする確かな原動力へと進化していきます。更新されたドキュメントをぜひご覧いただき、皆様のフィードバックをお寄せください。生成 AI ワークロード向けの最も安全なプラットフォームを目指して、Google はこれからも進化を続けてまいります。

使ってみる:

• 更新された Model Armor ドキュメントを確認する

- Google Cloud、テクニカル ライター Darshana Bhangare

- シニア デベロッパーリレーションズ エンジニア、Leonid Yankulin