Ringkasan Model Armor

Model Armor adalah layanan Google Cloud terkelola sepenuhnya yang meningkatkan keamanan dan keselamatan aplikasi AI dengan menyaring perintah dan respons LLM untuk berbagai risiko keamanan dan keselamatan. Model Armor menawarkan sejumlah fitur, termasuk yang berikut:

  • Tidak bergantung pada model dan tidak bergantung pada cloud: Model Armor dirancang untuk mendukung model apa pun di platform cloud apa pun. Hal ini mencakup skenario multi-cloud dan multi-model untuk memilih solusi AI terbaik bagi kebutuhan spesifik Anda.
  • Pengelolaan dan penegakan terpusat: Model Armor memungkinkan pengelolaan dan penegakan kebijakan keamanan dan keselamatan secara terpusat.
  • REST API Publik: Model Armor menyediakan REST API publik, yang memungkinkan Anda mengintegrasikan pemindaian perintah dan respons secara langsung ke dalam aplikasi. Pendekatan berbasis API ini mendukung berbagai skenario deployment.
  • Kontrol akses berbasis peran (RBAC): Model Armor menggabungkan kontrol akses berbasis peran (RBAC) untuk mengelola akses dan izin dalam layanan sehingga peran pengguna yang berbeda memiliki tingkat kontrol dan visibilitas yang sesuai.
  • Endpoint regional: API Model Armor diekspos menggunakan endpoint regional, yang memberikan latensi rendah.
  • Beberapa region: Model Armor dapat diakses di seluruh berbagai region di Amerika Serikat dan Eropa.
  • Integrasi dengan Security Command Center: Model Armor terintegrasi dengan Security Command Center, sehingga Anda dapat melihat temuan di dasbor Security Command Center, mengidentifikasi pelanggaran, dan memperbaikinya dari sumbernya.
  • Fitur keselamatan dan keamanan:
    • Filter keamanan dan Responsible AI: Model Armor menawarkan filter untuk keamanan konten, yang mengatasi masalah seperti konten seksual vulgar, berbahaya, pelecehan, dan ujaran kebencian.
    • Deteksi jailbreak dan injection prompt: Model Armor menyertakan fitur untuk mendeteksi dan mencegah serangan jailbreak dan injection prompt.
    • Data Loss Prevention (DLP) menggunakan Sensitive Data Protection: Model Armor menyertakan kemampuan penuh layanan Sensitive Data Protection Google Cloud untuk memberikan kemampuan data loss prevention. Fitur ini dapat menemukan, mengklasifikasikan, dan melindungi data sensitif (misalnya, kekayaan intelektual seperti kode sumber atau informasi identitas pribadi seperti nomor kartu kredit), sehingga mencegah eksposur tanpa izin dalam interaksi LLM.
    • Deteksi URL berbahaya: Model Armor mampu mengidentifikasi URL berbahaya dalam perintah dan respons, sehingga meningkatkan postur keamanan aplikasi AI.
    • Dukungan untuk menyaring PDF: Model Armor mendukung pemindaian teks dalam PDF untuk menemukan konten berbahaya.

Manfaat

Model Armor menawarkan beberapa manfaat bagi organisasi, termasuk hal berikut:

  • Keamanan dan keselamatan AI yang ditingkatkan: Model Armor membantu organisasi memitigasi risiko keamanan dan keselamatan yang terkait dengan penggunaan LLM. Fitur ini mengatasi masalah seperti upaya injeksi prompt dan jailbreak, pembuatan konten berbahaya, URL berbahaya, dan kehilangan data sensitif, sehingga memungkinkan integrasi LLM yang aman dan andal ke dalam produk dan layanan.
  • Visibilitas dan kontrol terpusat: Model Armor menawarkan pengelolaan terpusat di seluruh aplikasi LLM, sehingga CISO dan arsitek keamanan dapat memantau dan mengontrol kebijakan keamanan dan keselamatan.
  • Opsi deployment yang fleksibel: Model Armor mendukung skenario multi-cloud, multi-model, dan multi-LLM serta dapat di-deploy di berbagai titik dalam arsitektur aplikasi LLM, sehingga memberikan fleksibilitas bagi organisasi untuk mengintegrasikannya ke dalam infrastruktur dan alur kerja yang ada.
  • Penyesuaian dan integrasi: Model Armor memungkinkan penyesuaian kebijakan agar sesuai dengan kasus penggunaan aplikasi tertentu dan terintegrasi ke dalam alur kerja operasional yang ada, yang memenuhi kebutuhan CTO/developer dan CISO/arsitek keamanan.

Arsitektur

Arsitektur Model Armor

Diagram arsitektur ini menunjukkan aplikasi yang menggunakan Model Armor untuk melindungi LLM dan pengguna. Langkah-langkah berikut menjelaskan aliran data.

  1. Pengguna memberikan perintah ke aplikasi.
  2. Model Armor memeriksa perintah masuk untuk konten yang berpotensi sensitif.
  3. Perintah (atau perintah yang dibersihkan) dikirim ke LLM.
  4. LLM menghasilkan respons.
  5. Model Armor memeriksa respons yang dihasilkan untuk konten yang berpotensi sensitif.
  6. Respons (atau respons yang dibersihkan) dikirim ke pengguna. Model Armor mengirimkan deskripsi mendetail tentang filter yang dipicu dan tidak dipicu dalam respons.

Singkatnya, Model Armor bertindak sebagai filter, yang memeriksa input (perintah) dan output (respons), untuk memastikan LLM tidak terekspos atau memberikan input atau output yang berbahaya atau sensitif.

Kasus penggunaan

Berikut adalah beberapa contoh kasus penggunaan Model Armor di berbagai industri:

  • Keamanan

    • Organisasi dapat mengurangi risiko kebocoran properti intelektual (IP) sensitif dan informasi identitas pribadi (PII) agar tidak disertakan dalam perintah atau respons LLM.
    • Organisasi dapat melindungi dari serangan prompt injection dan jailbreak, sehingga mencegah pelaku kejahatan memanipulasi sistem AI untuk melakukan tindakan yang tidak diinginkan.
    • Organisasi dapat memindai teks dalam PDF untuk mendeteksi konten sensitif atau berbahaya.

  • Keamanan dan responsible AI

    • Organisasi dapat mencegah chatbot mereka merekomendasikan solusi pesaing, sehingga mempertahankan integritas merek dan loyalitas pelanggan.
    • Organisasi dapat memfilter postingan media sosial yang dibuat oleh AI mereka yang berisi pesan berbahaya, seperti konten berbahaya atau yang menyebarkan kebencian.

Endpoint regional

Model Armor adalah produk regional, dan API-nya diekspos menggunakan endpoint regional. Endpoint regional berikut didukung:

  • Amerika Serikat

    • Iowa (region us-central1): modelarmor.us-central1.rep.googleapis.com

    • Northern Virginia (wilayah us-east4): modelarmor.us-east4.rep.googleapis.com

    • Oregon (region us-west1): modelarmor.us-west1.rep.googleapis.com

  • Eropa

    • Belanda (wilayah europe-west4): modelarmor.europe-west4.rep.googleapis.com

Harga

Model Armor dapat dibeli sebagai bagian terintegrasi dari Security Command Center atau sebagai layanan mandiri. Lihat Harga Security Command Center untuk mengetahui harga Security Command Center dan opsi mandiri.

Pertimbangan

Saat menggunakan Model Armor, pertimbangkan hal-hal berikut:

  • Filter deteksi jailbreak dan injeksi perintah mendukung hingga 512 token, dan filter lainnya mendukung hingga 2.000 token.
  • Setelan lantai tidak dapat menerapkan Perlindungan Data Sensitif.
  • Model Armor mendukung format teks dan PDF. Dalam PDF, Model Armor hanya memindai konten teks.

Langkah selanjutnya