Model Armor

ヘイトスピーチ、ハラスメント、露骨な性的表現を含むコンテンツ、危険を誘発するトピックなど、有害、非倫理的、または望ましくないコンテンツをきめ細かく制御できます。調整可能な信頼度しきい値を使用することで、組織が特定のアプリケーション コンテキスト、ユーザーベース、リスク許容度に基づいて、正確に適用を調整できるようになります。

Google Cloud の Sensitive Data Protection サービスと統合されており、特に AI 生成テキストの予測不可能性への適応が可能です。Model Armor は、プロンプトとモデルのレスポンスの両方で、個人情報（PII）、財務情報、認証情報、カスタム定義の機密データタイプの漏洩防止に役立ちます。

AI のプロンプトやレスポンスに含まれる悪意のあるファイル、マルウェア、安全でない URL を検出します。安全で正当なプロンプトが悪意あるファイルや URL に汚染されてしまった場合の間接的プロンプト インジェクションなど、埋め込み型の脅威を阻止できます。

Model Armor では、REST API を介してすべての LLM（Gemini、OpenAI、Anthropic、Llama など）を保護できるので、開発者はあらゆるクラウドやインフラストラクチャで利用できます。また、Vertex AI のスケーラブルなモデル デプロイやネットワーク サービス拡張機能および Apigee API ゲートウェイと統合されたノーコードのインライン保護機能も備わり、AI ファイアウォールとして機能します。