Mengontrol akses ke model Model Garden

Kebijakan organisasi Model Garden memungkinkan Anda mengontrol secara terpusat model yang dapat diakses pengguna dan tindakan yang dapat mereka lakukan. Secara default, siapa saja yang memiliki izin untuk menggunakan Vertex AI dapat menggunakan Model Garden untuk menemukan, menyesuaikan, dan men-deploy berbagai model Google dan pihak ketiga.

Menetapkan kebijakan Model Garden mungkin berguna, misalnya, jika Anda memiliki serangkaian model Google dan pihak ketiga yang disetujui yang dapat digunakan di lingkungan produksi. Anda dapat menentukan kebijakan di tingkat organisasi, folder, atau project sehingga pengguna hanya dapat mengakses model yang disetujui. Kebijakan berlaku untuk semua akun utama. Kebijakan organisasi bukan kebijakan per pengguna. Untuk mengetahui informasi selengkapnya, lihat Pengantar Layanan Kebijakan Organisasi.

Evaluasi kebijakan

Pada waktu evaluasi, semua kebijakan yang berkontribusi pada resource tertentu akan ditinjau, dan hanya kebijakan yang berlaku yang digabungkan, lalu dievaluasi. Setiap nilai tolak eksplisit lebih diprioritaskan daripada nilai izin eksplisit.

Misalnya, bayangkan Anda memiliki kebijakan folder yang menolak model tertentu dan kebijakan project yang mengizinkan model yang sama. Dengan asumsi bahwa kebijakan digabungkan, akses ke model akan ditolak di tingkat project karena kebijakan tolak eksplisit di tingkat folder lebih diprioritaskan. Namun, jika Anda menetapkan kebijakan project untuk mengganti semua kebijakan induk, akses ke model akan diizinkan di level project.

Untuk informasi selengkapnya, lihat Memahami evaluasi hierarki dalam dokumentasi Resource Manager.

Pertimbangan

  • Kebijakan organisasi Model Garden hanya berlaku untuk model di Model Garden. Misalnya, kebijakan ini tidak berlaku untuk model yang terdaftar di Vertex AI Model Registry.
  • Kebijakan organisasi tidak boleh melebihi 500 nilai yang diizinkan dan ditolak.
  • Untuk kebijakan kustom, Anda harus menentukan setiap model satu per satu. Anda tidak dapat mengizinkan atau menolak grup model. Misalnya, Anda tidak dapat menolak semua model pihak ketiga atau mengizinkan tindakan prediksi hanya untuk model Google.
  • Kebijakan berlaku untuk semua versi model. Anda tidak dapat menerapkan kebijakan pada versi model tertentu seperti gemini-1.5-pro-002.

Detail kebijakan

Saat menetapkan kebijakan, Anda menentukan salah satu tindakan berikut:

  • Izinkan semua model.
  • Menolak semua model.
  • Tetapkan aturan kebijakan kustom untuk mengizinkan atau menolak daftar model tertentu.

Secara default, jika tidak ada kebijakan yang ditetapkan atau diwarisi, semua model dan tindakan diizinkan.

Untuk kebijakan penolakan kustom, Anda secara eksplisit menolak daftar model dan secara implisit mengizinkan semua model lainnya. Demikian pula, untuk kebijakan izin kustom, Anda secara eksplisit mengizinkan daftar model dan secara implisit menolak semua model lainnya.

Untuk menentukan model dalam kebijakan kustom dan tindakan model, gunakan format berikut:

publishers/PUBLISHER/models/MODEL_NAME:ACTION

Ganti kode berikut:

  • PUBLISHER: nama penayang yang memiliki model yang menjadi sasaran kebijakan Anda.
  • MODE_NAME: nama model yang akan diizinkan atau ditolak.
  • ACTION: tindakan model yang akan disertakan dengan kebijakan Anda.

Misalnya, untuk menentukan aturan kebijakan pada prediksi terhadap model gemini-1.5-pro, tentukan publishers/google/models/gemini-1.5-pro:predict.

ID yang memenuhi syarat sepenuhnya (publishers/PUBLISHER/models/MODEL_NAME) juga dikenal sebagai ID model. Untuk menemukan ID model untuk model, buka kartu modelnya di Model Garden. Untuk link ke kartu model, lihat daftar model di Menjelajahi model AI di Model Garden.

Tindakan model

Untuk setiap model, Anda dapat mengizinkan atau menolak tindakan berikut:

  • predict: Menentukan apakah pengguna dapat membuat prediksi online dan batch terhadap model dengan API terkelola (model sebagai layanan).
  • deploy: Untuk model tanpa API terkelola, menentukan apakah pengguna dapat men-deploy model di Google Cloud. Misalnya, tindakan ini berlaku untuk deployment sekali klik di konsol Google Cloud.
  • tune: Menentukan apakah pengguna dapat menyesuaikan model.

Menetapkan kebijakan

Anda dapat menetapkan kebijakan untuk Model Garden menggunakan konsol Google Cloud atau Google Cloud CLI. Nama batasan adalah vertexai.allowedModels. Untuk mengetahui informasi selengkapnya tentang cara menetapkan kebijakan, lihat topik berikut dalam dokumentasi Resource Manager:

Contoh kebijakan

Contoh kebijakan berikut dalam format YAML, yang Anda gunakan saat menetapkan kebijakan melalui gcloud CLI.

Menolak sekumpulan model dan mengizinkan semua model lainnya

Contoh berikut menolak tindakan pada kumpulan model tertentu.

name: organizations/ORGANIZATION_ID/policies/vertexai.allowedModels
spec:
  rules:
    values:
      deniedValues:
      - publishers/meta/models/llama3:deploy
      - publishers/google/models/gemini-pro:tune
      - publishers/hf-google/models/gemma-2b:deploy

Ganti ORGANIZATION_ID dengan ID organisasi Google Cloud Anda. Untuk informasi selengkapnya, lihat Mendapatkan resource organisasi.

Mengizinkan sekumpulan model dan menolak semua model lainnya

Contoh berikut memungkinkan tindakan pada kumpulan model tertentu.

name: organizations/ORGANIZATION_ID/policies/vertexai.allowedModels
spec:
  rules:
    values:
      allowedValues:
      - publishers/meta/models/llama3:deploy
      - publishers/google/models/gemini-pro:tune
      - publishers/hf-google/models/gemma-2b

Langkah selanjutnya

Pelajari Model Garden dan penawarannya.