Multi-tenancy lintas project untuk inferensi Knative

Panduan ini memandu Anda mengonfigurasi penayangan Knative untuk memungkinkan satu atau beberapa project Google Cloud menjalankan dan mengelola workload yang berjalan di cluster GKE dalam project Google Cloud yang berbeda.

Model operasi umum dengan penayangan Knative adalah untuk tim developer aplikasi menggunakan project Google Cloud mereka untuk men-deploy dan mengelola layanan yang berjalan di cluster GKE yang berbeda di seluruh project Google Cloud tim lain. Kemampuan ini, yang disebut multi-tenancy, memungkinkan Anda, sebagai operator platform, menyesuaikan akses tim pengembangan hanya ke layanan mereka yang berjalan di berbagai lingkungan organisasi Anda (misalnya, produksi vs. staging).

Inferensi Knative secara khusus mendukung multi-tenancy perusahaan. Jenis multi-tenancy ini memungkinkan project Google Cloud cluster, untuk mengizinkan akses ke resource tertentu dari cluster GKE mereka. Project Google Cloud yang diberi akses ke project Google Cloud cluster adalah project Google Cloud tenant. Tenant project Google Cloud cluster dapat menggunakan penayangan Knative untuk mengakses, mengoperasikan, dan memiliki layanan dan resource tersebut yang aksesnya telah diberikan kepada mereka.

Secara konseptual, ada empat langkah untuk mengonfigurasi multi-tenancy perusahaan dengan penayangan Knative:

  1. Konfigurasikan akses tenant ke project Google Cloud cluster menggunakan Google Grup dan Identity and Access Management.
  2. Petakan setiap project Google Cloud tenant ke project Google Cloud cluster.
  3. Rutekan data log project Google Cloud cluster ke project Google Cloud tenant menggunakan bucket dan sink log.
  4. Menentukan izin cluster untuk tenant menggunakan kontrol akses berbasis peran.

Sebelum memulai

Operator platform yang bertanggung jawab untuk mengonfigurasi multi-tenancy harus memahami dan memenuhi persyaratan berikut:

Menentukan variabel lingkungan lokal

Untuk menyederhanakan perintah yang digunakan dalam proses ini, tentukan variabel lingkungan lokal untuk project Google Cloud cluster dan project Google Cloud tenant:

  1. Ganti YOUR_CLUSTER_PROJECT_ID dengan ID project Google Cloud cluster, lalu jalankan perintah berikut:

    export CLUSTER_PROJECT_ID=YOUR_CLUSTER_PROJECT_ID

  2. Ganti YOUR_TENANT_PROJECT_ID dengan ID project Google Cloud tenant, lalu jalankan perintah berikut:

    export TENANT_PROJECT_ID=$YOUR_TENANT_PROJECT_ID

  3. Verifikasi variabel lingkungan lokal Anda dengan menjalankan perintah berikut:

    echo "cluster Google Cloud project is:" $CLUSTER_PROJECT_ID
echo "tenant Google Cloud project is:" $TENANT_PROJECT_ID

Project ID Google Cloud cluster dan project ID Google Cloud tenant Anda kini digunakan di semua perintah berikut dengan $CLUSTER_PROJECT_ID dan $TENANT_PROJECT_ID yang ditentukan.

Memverifikasi izin IAM Anda

Jalankan perintah testIamPermissions berikut untuk memvalidasi bahwa Anda memiliki izin IAM yang diperlukan untuk mengakses resource di project Google Cloud cluster serta project Google Cloud tenant.

Jalankan perintah berikut untuk memvalidasi izin Anda di project Google Cloud cluster:

curl -X POST \
  -H "Authorization: Bearer "$(gcloud auth application-default print-access-token) \
  --header "Content-Type: application/json" \
  --data '{"permissions":["logging.sinks.create", "logging.sinks.get", "resourcemanager.projects.setIamPolicy"]}' \
  https://cloudresourcemanager.googleapis.com/v1/projects/$CLUSTER_PROJECT_ID:testIamPermissions

Hasil yang diharapkan untuk project Google Cloud cluster:

{
  "permissions": [
    "logging.sinks.create",
    "logging.sinks.get",
    "resourcemanager.projects.setIamPolicy"
  ]
}

Jalankan perintah berikut untuk memvalidasi izin Anda di setiap project Google Cloud tenant:

curl -X POST \
  -H "Authorization: Bearer "$(gcloud auth application-default print-access-token) \
  --header "Content-Type: application/json" \
  --data '{"permissions":["logging.buckets.create", "logging.buckets.get", "resourcemanager.projects.setIamPolicy", "resourcesettings.settingvalues.create", "serviceusage.services.enable"]}' \
  https://cloudresourcemanager.googleapis.com/v1/projects/$TENANT_PROJECT_ID:testIamPermissions

Hasil yang diharapkan untuk setiap project Google Cloud tenant:

{
  "permissions": [
    "logging.buckets.create",
    "logging.buckets.get",
    "resourcemanager.projects.setIamPolicy",
    "resourcesettings.settingvalues.create",
    "serviceusage.services.enable",
  ]
}

Menggunakan Google Grup dan Identity and Access Management untuk mengonfigurasi akses tenant

Gunakan Google Grup untuk mengizinkan tenant mengakses cluster GKE. Izin IAM memberi tenant izin untuk mendapatkan kredensial, tetapi mereka tidak akan dapat melakukan apa pun di cluster hingga kontrol akses berbasis peran Kubernetes dikonfigurasi pada langkah berikutnya.

Anda harus membuat Google Grup yang berisi semua pengguna project Google Cloud tenant Anda. Untuk informasi selengkapnya tentang cara menggunakan grup keamanan, lihat Menggunakan Google Grup untuk GKE.

Buat variabel lingkungan lokal berikut untuk Google Grup Anda:

export SECURITY_GROUP=gke-security-groups@company.com

Kubernetes Cluster Viewer

Jalankan perintah berikut untuk mengizinkan tenant mendapatkan kredensial ke cluster, tindakan ini tidak mengizinkan tenant membaca atau memanipulasi resource apa pun di cluster GKE.

Referensi IAM

gcloud projects add-iam-policy-binding $CLUSTER_PROJECT_ID \
   --member=group:$SECURITY_GROUP \
   --role='roles/container.clusterViewer' \
   --condition=None

Untuk membatasi akses ke cluster tertentu, Anda dapat menggunakan kondisi IAM.

gcloud projects add-iam-policy-binding $CLUSTER_PROJECT_ID \
   --member=group:$SECURITY_GROUP \
   --role='roles/container.clusterViewer' \
   --condition="expression=resource.name == 'cluster-name',title=Restrict cluster access"

Penampil Pemantauan

Jalankan perintah berikut untuk mengizinkan tenant membaca metrik pemantauan.

Referensi Peran Pemantauan

gcloud projects add-iam-policy-binding $CLUSTER_PROJECT_ID \
   --member=group:$SECURITY_GROUP \
   --role='roles/monitoring.viewer' \
   --condition=None

Memetakan setiap project Google Cloud tenant ke project Google Cloud cluster

Anda menggunakan nilai setelan resource untuk memetakan project Google Cloud tenant ke project Google Cloud cluster.

Setelan resource dapat dikonfigurasi untuk setiap project Google Cloud tenant, atau dapat ditetapkan di tingkat hierarki folder mana pun. Lebih mudah untuk menetapkannya di level folder satu tenant, tetapi lebih fleksibel untuk ditetapkan di setiap level project tenant. Setelah penyiapan ini, setiap kali tenant menjelajahi UI penayangan Knative, mereka juga akan melihat layanan mereka di project Google Cloud cluster. Tindakan ini tidak mengubah izin IAM di project Google Cloud cluster atau cluster GKE, tetapi hanya merupakan pemetaan dari project (atau folder) tenant ke project Google Cloud cluster.

  1. Aktifkan resourcesettings API di project Google Cloud tenant.

    gcloud services enable resourcesettings.googleapis.com \
  --project=$TENANT_PROJECT_ID

  2. Tambahkan hak istimewa Admin Organisasi (roles/resourcesettings.admin) ke ID pengguna Anda dengan menjalankan perintah berikut:

    gcloud organizations add-iam-policy-binding YOUR_ORGANIZATION_ID \
  --member=YOUR_ADMIN_MEMBER_ID \
  --role='roles/resourcesettings.admin'

    Ganti YOUR_ORGANIZATION_ID dengan ID organisasi Anda dan YOUR_ADMIN_MEMBER_ID dengan ID pengguna Anda, misalnya user:my-email@my-domain.com.

  3. Pilih salah satu metode berikut untuk menentukan pemetaan.

    Anda dapat menetapkan nilai setelan resource di folder Google Cloud induk, jika semua project Google Cloud turunan dan folder Google Cloud menggunakan nilai yang sama.

Project tenant

Tetapkan nilai setelan resource untuk setiap project Google Cloud tenant:

  1. Dapatkan name project Google Cloud tenant dan tetapkan ke variabel lingkungan lokal: 
    export TENANT_PROJECT_NUMBER=$(gcloud projects describe $TENANT_PROJECT_ID --format="value(projectNumber)")
  2. Buat file nilai setelan resource untuk menentukan pemetaan dari project Google Cloud tenant ke project Google Cloud cluster. Beberapa project ID Google Cloud cluster dapat ditentukan dalam file ini dan ditambahkan ke satu project Google Cloud tenant. 
    cat > value-file.json << EOF
{
"name": "projects/$TENANT_PROJECT_NUMBER/settings/cloudrun-multiTenancy/value",
"value": {
  "stringSetValue": {
    "values": [ "projects/$CLUSTER_PROJECT_ID" ]
  }
}
}
EOF
  3. Deploy setelan resource ke project Google Cloud tenant: 
    gcloud resource-settings set-value cloudrun-multiTenancy --value-file value-file.json --project $TENANT_PROJECT_ID

Folder tenant

Tetapkan nilai setelan resource untuk folder tenant induk guna menetapkan nilai tersebut ke semua project dan folder Google Cloud tenant turunan:

  1. Dapatkan number folder tenant dan tetapkan ke variabel lingkungan lokal: 
    export TENANT_FOLDER_NUMBER=$TENANT_FOLDER_NUMBER
  2. Buat file nilai setelan resource untuk menentukan pemetaan dari folder tenant ke project Google Cloud cluster. Beberapa ID project Google Cloud cluster dapat ditentukan dalam file ini dan ditambahkan ke satu folder tenant. 
    cat > value-file.json << EOF
{
"name": "folders/$TENANT_FOLDER_NUMBER/settings/cloudrun-multiTenancy/value",
"value": {
  "stringSetValue": {
    "values": [ "projects/$CLUSTER_PROJECT_ID" ]
  }
}
}
EOF
  3. Deploy setelan resource ke folder tenant: 
    gcloud resource-settings set-value cloudrun-multiTenancy --value-file value-file.json --folder $TENANT_FOLDER_NUMBER

Menyiapkan bucket dan sink log untuk merutekan data log

Untuk setiap tenant, Anda membuat bucket log, sink, dan izin untuk merutekan data log project Google Cloud cluster ke project Google Cloud tenant. Pada langkah-langkah berikut, semua log dari namespace dalam project Google Cloud cluster akan dirutekan ke bucket. Lihat kumpulan di bawah untuk mengetahui detail tentang cara membatasi log yang dibagikan.

Buat variabel lingkungan lokal berikut:

  • Tentukan namespace cluster GKE yang diakses tenant Anda.
  • Nama sink. Untuk menyederhanakan langkah ini, nama tersebut adalah kombinasi dari project Google Cloud cluster dan variabel lingkungan lokal project Google Cloud tenant yang sebelumnya Anda buat. Anda dapat mengubah nilai ini.
export NAMESPACE=$NAMESPACE
export SINK_NAME=$CLUSTER_PROJECT_ID-$TENANT_PROJECT_ID

Jalankan perintah berikut untuk membuat bucket log di project tenant. Perhatikan bahwa nama bucket log harus berupa ID project Google Cloud cluster dan tidak dapat diubah atau dimodifikasi.

gcloud logging buckets \
   create $CLUSTER_PROJECT_ID \
   --location=global \
   --project=$TENANT_PROJECT_ID

Jalankan perintah berikut untuk membuat sink dari namespace yang ditentukan di project Google Cloud cluster, ke bucket project Google Cloud tenant. Perhatikan bahwa Anda dapat mempersempit cakupan log, misalnya untuk hanya membagikan setiap cluster GKE atau resource penayangan Knative tertentu dengan menentukan nilai log-filter tambahan.

gcloud logging sinks \
   create $SINK_NAME \
   logging.googleapis.com/projects/$TENANT_PROJECT_ID/locations/global/buckets/$CLUSTER_PROJECT_ID \
   --log-filter=resource.labels.namespace_name=$NAMESPACE \
   --project $CLUSTER_PROJECT_ID

Jalankan perintah berikut untuk menambahkan izin dari akun layanan sink log ke bucket yang Anda buat.

export SINK_SERVICE_ACCOUNT=$(gcloud logging sinks \
   describe $SINK_NAME \
   --project $CLUSTER_PROJECT_ID \
   --format="value(writerIdentity)")

gcloud projects add-iam-policy-binding $TENANT_PROJECT_ID \
   --member=$SINK_SERVICE_ACCOUNT \
   --role='roles/logging.bucketWriter' \
   --condition="expression=resource.name.endsWith\
   (\"locations/global/buckets/$CLUSTER_PROJECT_ID\"),\
   title=Log bucket writer from $CLUSTER_PROJECT_ID"

Menyiapkan izin tenant dengan kontrol akses berbasis peran (RBAC)

Sebelumnya, Anda menggunakan Google Grup dan IAM untuk mengonfigurasi izin agar tenant dapat mengakses project Google Cloud dari cluster GKE. Untuk mengizinkan tenant mengakses resource dalam cluster GKE, Anda harus menentukan izin dengan Kubernetes RBAC.

Membuat Peran Cluster

Setelah menentukan dan membuat peran cluster berikut, Anda dapat terus menggunakannya di masa mendatang untuk menambahkan semua tenant berikutnya dari project Google Cloud cluster.

Peran UI

Peran ini memungkinkan tenant membuat kueri di semua namespace. Hal ini diperlukan untuk menemukan namespace yang memiliki akses untuk membuat layanan /sdk/gcloud/reference/logging/sinks/create.

kubectl create clusterrole \
   namespace-lister \
   --verb=list \
   --resource=namespaces

Peran ini memungkinkan tenant melihat layanan penayangan Knative. Hal ini diperlukan untuk mencantumkan layanan di UI penayangan Knative.

kubectl create clusterrole \
   ksvc-lister \
   --verb=list \
   --resource=services.serving.knative.dev

Membuat Peran Cluster

Hanya satu dari izin ini yang diperlukan. Izin pertama memungkinkan tenant memanipulasi resource apa pun di namespace mereka. Izin kedua memungkinkan serangkaian yang lebih terbatas hanya membuat layanan penayangan Knative.

kubectl create clusterrole \
   kubernetes-developer \
   --verb="*" \
   --resource="*.*"

Jika izin kubernetes-developer terlalu permisif, tindakan berikut akan memungkinkan tenant membuat layanan Knative di namespace mereka dan melihat resource Knative lainnya.

cat <<EOF | kubectl apply -f -
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
  name: knative-developer
rules:
- apiGroups: ["serving.knative.dev"]
  resources: ["services"]
  verbs: ["*"]
- apiGroups: ["serving.knative.dev"]
  resources: ["*"]
  verbs: ["get", "list", "watch"]
EOF

Buat namespace Tenant dan tetapkan izin.

Perhatikan bahwa hal ini mengasumsikan bahwa Anda telah melakukan penyiapan menggunakan Google Grup untuk GKE. Tindakan ini perlu dilakukan untuk setiap tenant.

export TENANT_GROUP=tenant-a@company.com

TENANT_GROUP harus menjadi bagian dari SECURITY_GROUP

Kemampuan untuk melihat semua namespace

Untuk membuat kueri cluster GKE, semua tenant harus memiliki kemampuan untuk mencantumkan namespace. Saat ini tidak ada auth can-i yang menampilkan namespace yang memungkinkan tindakan. Satu-satunya solusinya adalah mencantumkan namespace, lalu membuat kueri untuk setiap namespace.

kubectl create clusterrolebinding \
   all-namespace-listers \
   --clusterrole=namespace-lister \
   --group=$TENANT_GROUP

Kemampuan untuk mencantumkan layanan penayangan Knative

kubectl create clusterrolebinding \
   all-ksvc-listers \
   --clusterrole=ksvc-lister \
   --group=$TENANT_GROUP

Kemampuan untuk memanipulasi resource di namespace

Pertama, buat namespace:

kubectl create namespace $NAMESPACE

Jika menggunakan peran kubernetes-developer:

kubectl create rolebinding \
   kubernetes-developer \
   --namespace=$NAMESPACE \
   --clusterrole=kubernetes-developer \
   --group=$TENANT_GROUP

Jika menggunakan peran knative-developer:

kubectl create rolebinding \
   kubernetes-developer \
   --namespace=$NAMESPACE \
   --clusterrole=knative-developer \
   --group=$TENANT_GROUP

Menambahkan kemampuan bagi tenant untuk mengakses alamat IP eksternal

cat <<EOF | kubectl apply -f -
apiVersion: rbac.authorization.k8s.io/v1
kind: ClusterRole
metadata:
  name: ingress-reader
rules:
- apiGroups: [""]
  resources: ["services"]
  verbs: ["get"]
EOF

kubectl create rolebinding \
   ingress-reader-$TENANT_GROUP \
   --namespace=istio-system \
   --clusterrole=ingress-reader \
   --group=$TENANT_GROUP

Verifikasi

Anda dapat memverifikasi bahwa Anda telah berhasil mengonfigurasi multi-tenancy perusahaan dengan membuka project Google Cloud tenant di layanan Knative dan men-deploy layanan ke cluster GKE.

Buka Inferensi Knative

Selamat, tenant Anda kini dapat berinteraksi dengan layanan dan resource dalam namespace cluster GKE yang telah diberi akses.

Referensi multi-tenancy