Crea un modello Model Armor
Console
Nella console Google Cloud, vai alla pagina Model Armor.
Verifica di visualizzare il progetto su cui hai attivato Model Armor.
Nella pagina Model Armor (Armatura modello), fai clic su Crea modello. Viene visualizzata la pagina Crea modello.
Specifica l'ID modello. L'ID modello può contenere lettere, cifre o trattini. Non deve superare i 63 caratteri e non può contenere spazi o iniziare con un trattino.
Seleziona una regione per eseguire i modelli di Model Armor. Non puoi modificare la regione in un secondo momento.
(Facoltativo) Aggiungi Etichette. Le etichette sono coppie chiave/valore che puoi utilizzare per gruppare i modelli correlati.
Nella sezione Rilevamenti, configura le seguenti impostazioni di rilevamento:
Rilevamento di URL dannosi: identifica gli indirizzi web (URL) progettati per danneggiare utenti o sistemi. Questi URL potrebbero indirizzare a siti di phishing, download di malware o altri attacchi informatici. Per ulteriori informazioni, consulta la sezione Rilevamento di URL dannosi.
Rilevamento di prompt injection e jailbreaking: rileva contenuti dannosi e tentativi di jailbreak in un prompt. Per un'applicazione più rigorosa, imposta il livello di affidabilità su Basso o superiore** per rilevare la maggior parte dei contenuti che probabilmente sono un tentativo di prompt injection e jailbreak. Per ulteriori informazioni, consulta Rilevamento di prompt injection e jailbreaking.
Sensitive Data Protection: rileva i dati sensibili, ne impedisce l'esposizione accidentale e blocca i tentativi di estrazione dei dati dai modelli di IA tramite attacchi come il prompt injection. Per ulteriori informazioni, consulta Sensitive Data Protection.
Puoi impostare Sensitive Data Protection di base o avanzata.
Base: utilizza infoType predefiniti per rilevare i tipi di dati sensibili. Per ulteriori informazioni sull'infoType predefinito, consulta la sezione Configurazione di base di Sensitive Data Protection.
Avanzato: utilizza un modello di ispezione definito nel servizio Sensitive Data Protection come singola origine per gli infoType sui dati sensibili.
Se selezioni la protezione avanzata dei dati sensibili, devi specificare i seguenti parametri:
Modello di ispezione: modelli per salvare le informazioni di configurazione per i job di scansione di ispezione, inclusi i rilevatori predefiniti o personalizzati da utilizzare. Inserisci il nome del modello nel seguente formato:
projects/projectName/locations/locationID/inspectTemplates/templateName(Facoltativo) Modello di anonimizzazione: modelli per salvare le informazioni di configurazione per i job di anonimizzazione, incluse le trasformazioni di infoType e dei set di dati strutturati. Inserisci un identificatore per il modello di anonimizzazione nel seguente formato:
projects/projectName/locations/locationID/deidentifyTemplates/templateName
Nella sezione AI responsabile, puoi impostare il livello di confidenza per ogni filtro dei contenuti. Il livello di confidenza rappresenta la probabilità che i risultati corrispondano a un tipo di filtro dei contenuti. I valori possibili sono:
- Nessuna: non rilevare nessun tipo di contenuti.
- Soglia bassa e superiore: rileva i contenuti con un livello di confidenza basso, medio o alto.
- Medio e superiore: rileva i contenuti con un livello di confidenza medio o alto.
- Alto: rileva i contenuti con un livello di confidenza elevato.
Per un'applicazione più rigorosa, imposta il livello di confidenza su Basso o superiore per rilevare la maggior parte dei contenuti che rientrano in un tipo di filtro dei contenuti. Puoi anche selezionare il livello di confidenza per tutti i tipi di contenuti contemporaneamente.
Fai clic su Crea.
gcloud
Esegui questo comando:
gcloud alpha model-armor templates create template_id --location location [filters]
Sostituisci quanto segue:
LOCATION: la posizione del modello.TEMPLATE_ID: l'ID del modello.
Ecco un esempio con tutti i filtri.
gcloud alpha model-armor templates create --location location "template_id"
--rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]'
--basic-config-filter-enforcement=enabled
--pi-and-jailbreak-filter-settings-enforcement=enabled
--pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE
--malicious-uri-filter-settings-enforcement=enabled
--template-metadata-custom-llm-response-safety-error-code=798
--template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed"
--template-metadata-custom-prompt-safety-error-code=799
--template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed"
--template-metadata-ignore-partial-invocation-failures
--template-metadata-log-operations
--template-metadata-log-sanitize-operations
API REST
Utilizza questo comando per creare un nuovo modello di Model Armor.
curl -X POST \
-d "{'filter_config': {} }" \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates?template_id=$TEMPLATE_ID"
Sostituisci quanto segue:
Filter_configè la configurazione del filtro per il modello.PROJECT_IDè l'ID del progetto a cui appartiene il modello.TEMPLATE_IDè l'ID del modello da creare.LOCATIONè la posizione del modello.gcloud auth print-access-tokenè il token di accesso per l'account specificato. Segui questi passaggi per ottenere questo token.
L'esempio seguente illustra la configurazione del modello Model Armor.
- Crea una configurazione (in questo caso
FILTER_CONFIG) dei filtri per i quali vuoi che il modello di protezione del modello esegua la ricerca e il livello di confidenza, se applicabile. - Crea un modello di Model Armor (in questo caso
ma-template-id-1234) utilizzando la configurazione che hai creato.
Tieni presente che LOW_AND_ABOVE indica che tutti i contenuti con una probabilità di PROBABILITÀ BASSA, MEDIA o ALTA verranno segnalati.
export FILTER_CONFIG='{
"filterConfig": {
"raiSettings": {
"raiFilters": [{
"filterType": "HATE_SPEECH",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}, {
"filterType": "HARASSMENT",
"confidenceLevel": "HIGH"
}, {
"filterType": "DANGEROUS",
"confidenceLevel": "MEDIUM_AND_ABOVE"
},{
"filterType": "SEXUALLY_EXPLICIT",
"confidenceLevel": "MEDIUM_AND_ABOVE"
}]
},
"piAndJailbreakFilterSettings": {
"filterEnforcement": "ENABLED",
"confidenceLevel": "LOW_AND_ABOVE"
},
"maliciousUriFilterSettings": {
"filterEnforcement": "ENABLED"
}
}
}'
curl -X POST \
-d $FILTER_CONFIG \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
"https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/LOCATION_ID/ templates?template_id=TEMPLATE_ID"
Visualizzare un modello di Model Armor
Console
Nella console Google Cloud, vai alla pagina Model Armor.
Verifica di visualizzare il progetto su cui hai attivato Model Armor. Viene visualizzata la pagina Model Armor, che elenca i modelli creati per il progetto.
Fai clic su un modello dall'elenco per visualizzarne i dettagli.
gcloud
Esegui questo comando:
gcloud alpha model-armor templates describe template_id --location location
Sostituisci quanto segue:
LOCATION: la posizione del modello.TEMPLATE_ID: l'ID del modello.
API REST
Esegui questo comando:
curl -X GET \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID"
Sostituisci quanto segue:
gcloud auth print-access-tokenè il token di accesso per l'account specificato.PROJECT_ID: l'ID del progetto a cui appartiene il modello.LOCATION: la posizione del modello.TEMPLATE_ID: l'ID del modello.
Aggiornare un modello Model Armor
Console
Nella console Google Cloud, vai alla pagina Model Armor.
Verifica di visualizzare il progetto su cui hai attivato Model Armor. Viene visualizzata la pagina Model Armor, che elenca i modelli creati per la tua organizzazione.
Nell'elenco, fai clic sul modello che vuoi aggiornare. Viene visualizzata la pagina Dettagli modello.
Fai clic su Modifica.
Aggiorna i parametri richiesti e fai clic su Salva.
gcloud
Esegui questo comando:
gcloud alpha model-armor templates update template_id --location location [filters]
Sostituisci quanto segue:
LOCATION: la posizione del modello.TEMPLATE_ID: l'ID del modello.
API REST
Esegui questo comando:
curl -X PATCH \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -d $FILTER_CONFIG \ "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID?update_mask=filter_config"
Sostituisci quanto segue:
gcloud auth print-access-tokenè il token di accesso per l'account specificato.PROJECT_ID: l'ID del progetto a cui appartiene il modello.LOCATION: la posizione del modello.TEMPLATE_ID: l'ID del modello.FILTER_CONFIG: la rappresentazione JSON della configurazione del filtro.
Tutti gli altri campi sono immutabili. I tentativi di aggiornare altri campi (ad esempio, i tentativi di aggiornare il nome del modello) generano un errore.
Eliminare un modello di Model Armor
Console
Nella console Google Cloud, vai alla pagina Model Armor.
Verifica di visualizzare il progetto su cui hai attivato Model Armor. Viene visualizzata la pagina Model Armor, che elenca i modelli creati per la tua organizzazione.
Fai clic sul modello che vuoi eliminare dall'elenco. Viene visualizzata la pagina Dettagli modello.
Fai clic su Elimina. Viene visualizzata una finestra di dialogo di conferma.
Inserisci il nome del modello per confermare l'eliminazione e fai clic su Elimina.
gcloud
Esegui questo comando:
gcloud alpha model-armor templates delete template_id --location location
Sostituisci quanto segue:
LOCATION: la posizione del modello.TEMPLATE_ID: l'ID del modello.
API REST
Esegui questo comando:
curl -X DELETE \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/$PROJECT_ID/locations/$LOCATION/templates/$TEMPLATE_ID"
Sostituisci quanto segue:
gcloud auth print-access-tokenè il token di accesso per l'account specificato.PROJECT_ID: l'ID del progetto a cui appartiene il modello.LOCATION: la posizione del modello.TEMPLATE_ID: l'ID del modello.
Passaggi successivi
- Scopri di più sulla panoramica di Model Armor.
- Scopri di più sulle impostazioni del limite di Model Armor.
- Esegui la sanitizzazione di prompt e risposte.
- Risolvi i problemi di Model Armor.