Secure AI Framework (SAIF) e Google Cloud
Secure AI Framework (SAIF) e Google Cloud
Secure AI Framework (SAIF) e Google Cloud
Secure AI Framework (SAIF) offre indicazioni alle organizzazioni che vogliono proteggere i sistemi di AI.
Google ha creato SAIF.google, che include una valutazione del rischio SAIF per supportare l'implementazione di SAIF nelle organizzazioni, per aiutare a creare ed eseguire il deployment di sistemi di AI in modo sicuro.
Di seguito, esamineremo il portafoglio Google Cloud per la sicurezza attraverso il punto di vista di SAIF e mostreremo come possiamo aiutare la tua organizzazione a mitigare i potenziali rischi dell'AI con vari controlli e soluzioni cloud.
Il SAIF è stato progettato per rispondere alle principali problematiche dei professionisti della sicurezza, come la gestione dei rischi, la sicurezza e la privacy dei modelli AI/ML, contribuendo a garantire che i modelli di AI implementati siano sicuri per definizione.
Come funziona
Vuoi affrontare i rischi identificati nel tuo report sui rischi SAIF? Inizia subito.
Vuoi affrontare i rischi identificati nel tuo report sui rischi SAIF? Inizia subito.
Utilizzi comuni
Poisoning dei dati
Nell'ambito dell'impegno di Google Cloud per la sicurezza, i nostri modelli di base dispongono di ampi controlli di accesso per impedire la copia o la lettura non autorizzate, nonché di funzionalità di rilevamento all'avanguardia per monitorare le azioni non autorizzate.
Google Cloud fornisce anche controlli che i nostri clienti possono configurare sulla nostra piattaforma per proteggere l'utilizzo dei nostri modelli o dei propri servizi di terze parti. I criteri dell'organizzazione e i controlli di servizio VPC impediscono l'esfiltrazione dei dati, oltre a controlli IAM (Identity and Access Management) granulari che prevengono l'accesso non autorizzato.
Scopri di più sui modi in cui Google Cloud aiuta i clienti a proteggere i propri dati:
- Controlli di servizio VPC: prevengono l'esfiltrazione di dati creando perimetri di isolamento attorno alle risorse cloud, ai dati sensibili e alle reti, inclusi i criteri specifici per Vertex AI.
- Forniscono limiti di sicurezza per applicare le configurazioni delle risorse consentite o negate con il servizio dei criteri dell'organizzazione.
- Organizza, monitora e gestisci il ciclo di vita dei modelli ML con Vertex AI Model Registry.
- Gestione della postura di sicurezza dei dati: governa modelli, set di dati e artefatti ML correlati per sicurezza, privacy e conformità tramite criteri di controllo dell'accesso e del flusso.
- L'AI riservata basata su Confidential Computing estende la protezione dei dati e dei modelli basata su hardware con riservatezza, integrità e isolamento dalla CPU alle GPU, consentendo di accelerare i carichi di lavoro critici per l'AI e il machine learning. Di recente abbiamo annunciato due nuove offerte di Confidential Computing progettate specificamente per proteggere la privacy e la riservatezza dei carichi di lavoro AI/ML: le Confidential VM con GPU NVIDIA H100 Tensor Core e le Confidential VM con supporto di Intel Advanced Matrix Extensions (Intel AMX). Scopri di più.
- Access Management con privilegi di Google: ottieni un livello di affidabilità elevato per l'accesso ai dati e alle chiavi di crittografia con Approvazione accesso, Access Transparency e Key Access Justifications. Google condivide le richieste di accesso ai dati dei clienti da parte dei dipendenti Google e offre ai clienti la possibilità di richiedere controlli espliciti (Access Approval per il cliente come approvatore multipartito) o basati su giustificazioni e con validazione crittografica (Key Access Justifications) sull'accesso ai dati del cloud provider, inclusi i carichi di lavoro AI. La verifica crittografica e i log dettagliati garantiscono la massima trasparenza e controllo, rafforzando la fiducia nella gestione da parte di Google dei tuoi dati sensibili, inclusi i dati relativi all'AI.
Hai bisogno di ulteriore assistenza per affrontare rischi legati all'AI come l'esfiltrazione dei modelli, la manomissione delle origini dei modelli e il poisoning dei dati?
I servizi di consulenza di Google Cloud ti aiutano a ottenere una solida postura di sicurezza dell'AI per i controlli di accesso ai modelli e ai dati.
- Secure Cloud Foundations: crea basi solide e sicure dell'infrastruttura con le protezioni necessarie per eseguire i carichi di lavoro di AI.
- Acceleratore per la sicurezza dell'AI generativa: scopri come gli esperti di sicurezza dell'AI di Google implementano il Secure AI Framework di Google per salvaguardare i carichi di lavoro dell'AI generativa dai rischi specifici dell'AI.
- Protezione della sicurezza: design sicuro ed esecuzione del deployment end-to-end dei servizi di AI utilizzando Infrastructure as Code (IaC).
- Simulazioni avanzate delle minacce: simula minacce AI del mondo reale in un ambiente Google Cloud isolato per addestrare i team di sicurezza e valutare la loro preparazione a rispondere agli incidenti di sicurezza.
Contatta i servizi di consulenza di Google Cloud
Collabora con gli esperti di Mandiant per sfruttare l'AI in modo sicuro.
- Red Teaming per l'AI: convalida le difese che proteggono i sistemi di AI e valuta la tua capacità di rilevare e rispondere a un attacco attivo che coinvolge i sistemi di AI.
- Garantire la sicurezza dell'uso dell'AI: valuta l'architettura, le difese dei dati e le applicazioni create su modelli di AI e sviluppa modelli di minaccia utilizzando i framework di sicurezza.
Contatta gli esperti di sicurezza di Mandiant
Vuoi sapere a quali domande del questionario di autovalutazione del rischio SAIF si riferisce questa categoria di rischio?
- Sei in grado di rilevare, rimuovere e correggere modifiche dannose o accidentali nei dati di addestramento, ottimizzazione o valutazione?
- Hai un inventario completo di tutti i modelli, i set di dati (per addestramento, ottimizzazione o valutazione) e gli artefatti ML correlati (ad esempio il codice)?
- Disponi di controlli di accesso efficaci su tutti i modelli, set di dati e artefatti ML correlati per ridurre al minimo, rilevare e prevenire la lettura o la copia non autorizzata?
- Sei in grado di garantire che tutti i dati, i modelli e il codice utilizzati per addestrare, ottimizzare o valutare i modelli non possano essere manomessi senza essere rilevati durante lo sviluppo e il deployment del modello?
- I framework, le librerie, i sistemi software e i componenti hardware utilizzati nello sviluppo e nella distribuzione dei modelli sono analizzati e protetti contro le vulnerabilità di sicurezza?
Procedure
Nell'ambito dell'impegno di Google Cloud per la sicurezza, i nostri modelli di base dispongono di ampi controlli di accesso per impedire la copia o la lettura non autorizzate, nonché di funzionalità di rilevamento all'avanguardia per monitorare le azioni non autorizzate.
Google Cloud fornisce anche controlli che i nostri clienti possono configurare sulla nostra piattaforma per proteggere l'utilizzo dei nostri modelli o dei propri servizi di terze parti. I criteri dell'organizzazione e i controlli di servizio VPC impediscono l'esfiltrazione dei dati, oltre a controlli IAM (Identity and Access Management) granulari che prevengono l'accesso non autorizzato.
Scopri di più sui modi in cui Google Cloud aiuta i clienti a proteggere i propri dati:
- Controlli di servizio VPC: prevengono l'esfiltrazione di dati creando perimetri di isolamento attorno alle risorse cloud, ai dati sensibili e alle reti, inclusi i criteri specifici per Vertex AI.
- Forniscono limiti di sicurezza per applicare le configurazioni delle risorse consentite o negate con il servizio dei criteri dell'organizzazione.
- Organizza, monitora e gestisci il ciclo di vita dei modelli ML con Vertex AI Model Registry.
- Gestione della postura di sicurezza dei dati: governa modelli, set di dati e artefatti ML correlati per sicurezza, privacy e conformità tramite criteri di controllo dell'accesso e del flusso.
- L'AI riservata basata su Confidential Computing estende la protezione dei dati e dei modelli basata su hardware con riservatezza, integrità e isolamento dalla CPU alle GPU, consentendo di accelerare i carichi di lavoro critici per l'AI e il machine learning. Di recente abbiamo annunciato due nuove offerte di Confidential Computing progettate specificamente per proteggere la privacy e la riservatezza dei carichi di lavoro AI/ML: le Confidential VM con GPU NVIDIA H100 Tensor Core e le Confidential VM con supporto di Intel Advanced Matrix Extensions (Intel AMX). Scopri di più.
- Access Management con privilegi di Google: ottieni un livello di affidabilità elevato per l'accesso ai dati e alle chiavi di crittografia con Approvazione accesso, Access Transparency e Key Access Justifications. Google condivide le richieste di accesso ai dati dei clienti da parte dei dipendenti Google e offre ai clienti la possibilità di richiedere controlli espliciti (Access Approval per il cliente come approvatore multipartito) o basati su giustificazioni e con validazione crittografica (Key Access Justifications) sull'accesso ai dati del cloud provider, inclusi i carichi di lavoro AI. La verifica crittografica e i log dettagliati garantiscono la massima trasparenza e controllo, rafforzando la fiducia nella gestione da parte di Google dei tuoi dati sensibili, inclusi i dati relativi all'AI.
Risorse aggiuntive
Hai bisogno di ulteriore assistenza per affrontare rischi legati all'AI come l'esfiltrazione dei modelli, la manomissione delle origini dei modelli e il poisoning dei dati?
I servizi di consulenza di Google Cloud ti aiutano a ottenere una solida postura di sicurezza dell'AI per i controlli di accesso ai modelli e ai dati.
- Secure Cloud Foundations: crea basi solide e sicure dell'infrastruttura con le protezioni necessarie per eseguire i carichi di lavoro di AI.
- Acceleratore per la sicurezza dell'AI generativa: scopri come gli esperti di sicurezza dell'AI di Google implementano il Secure AI Framework di Google per salvaguardare i carichi di lavoro dell'AI generativa dai rischi specifici dell'AI.
- Protezione della sicurezza: design sicuro ed esecuzione del deployment end-to-end dei servizi di AI utilizzando Infrastructure as Code (IaC).
- Simulazioni avanzate delle minacce: simula minacce AI del mondo reale in un ambiente Google Cloud isolato per addestrare i team di sicurezza e valutare la loro preparazione a rispondere agli incidenti di sicurezza.
Contatta i servizi di consulenza di Google Cloud
Collabora con gli esperti di Mandiant per sfruttare l'AI in modo sicuro.
- Red Teaming per l'AI: convalida le difese che proteggono i sistemi di AI e valuta la tua capacità di rilevare e rispondere a un attacco attivo che coinvolge i sistemi di AI.
- Garantire la sicurezza dell'uso dell'AI: valuta l'architettura, le difese dei dati e le applicazioni create su modelli di AI e sviluppa modelli di minaccia utilizzando i framework di sicurezza.
Contatta gli esperti di sicurezza di Mandiant
Esempi di clienti
Vuoi sapere a quali domande del questionario di autovalutazione del rischio SAIF si riferisce questa categoria di rischio?
- Sei in grado di rilevare, rimuovere e correggere modifiche dannose o accidentali nei dati di addestramento, ottimizzazione o valutazione?
- Hai un inventario completo di tutti i modelli, i set di dati (per addestramento, ottimizzazione o valutazione) e gli artefatti ML correlati (ad esempio il codice)?
- Disponi di controlli di accesso efficaci su tutti i modelli, set di dati e artefatti ML correlati per ridurre al minimo, rilevare e prevenire la lettura o la copia non autorizzata?
- Sei in grado di garantire che tutti i dati, i modelli e il codice utilizzati per addestrare, ottimizzare o valutare i modelli non possano essere manomessi senza essere rilevati durante lo sviluppo e il deployment del modello?
- I framework, le librerie, i sistemi software e i componenti hardware utilizzati nello sviluppo e nella distribuzione dei modelli sono analizzati e protetti contro le vulnerabilità di sicurezza?
Denial of ML service (DoS)
La sicurezza è un elemento fondamentale di Google Cloud e adottiamo un approccio di difesa in profondità. Nell'ambito delle nostre misure efficaci, abbiamo solide capacità di protezione contro interruzioni del servizio come gli attacchi distributed denial of service (DDoS). Forniamo anche controlli aggiuntivi che i clienti possono utilizzare per proteggersi da questi attacchi DDoS e a livello di applicazione tramite Cloud Armor.
La nostra soluzione integrata di sicurezza e gestione dei rischi, Security Command Center, protegge le applicazioni Vertex AI con controlli di prevenzione e rilevamento. Ciò include la risposta agli eventi di sicurezza di Vertex AI e la simulazione del percorso di attacco per imitare il modo in cui un malintenzionato reale potrebbe accedere e compromettere i carichi di lavoro di Vertex AI.
Per le applicazioni di AI, i clienti possono anche utilizzare Model Armor per ispezionare, instradare e proteggere i prompt e le risposte del foundation model. Può aiutare i clienti a mitigare i rischi come prompt injection, jailbreak, contenuti tossici ed esfiltrazione di dati sensibili. Model Armor si integrerà con i prodotti di Google Cloud, tra cui Vertex AI. Se vuoi saperne di più sull'accesso in anteprima a Model Armor, puoi registrarti qui o guardare il nostro video on demand.
Hai bisogno di ulteriore assistenza per affrontare rischi legati all'AI come la negazione del servizio di ML e il reverse engineering del modello?
Collabora con gli esperti Mandiant per sfruttare l'AI in modo sicuro.
- Red Teaming per l'AI: convalida le difese che proteggono i sistemi di AI e valuta la tua capacità di rilevare e rispondere a un attacco attivo che coinvolge i sistemi di AI.
- Garantire la sicurezza dell'uso dell'AI: valuta l'architettura, le difese dei dati e le applicazioni create su modelli di AI e sviluppa modelli di minaccia utilizzando i framework di sicurezza.
Contatta gli esperti di sicurezza di Mandiant
Vuoi sapere a quali domande del questionario di autovalutazione del rischio SAIF si riferisce questa categoria di rischio?
- Proteggi le tue applicazioni e i tuoi modelli di AI generativa da query dannose su larga scala provenienti da account utente, dispositivi o tramite API?
Procedure
La sicurezza è un elemento fondamentale di Google Cloud e adottiamo un approccio di difesa in profondità. Nell'ambito delle nostre misure efficaci, abbiamo solide capacità di protezione contro interruzioni del servizio come gli attacchi distributed denial of service (DDoS). Forniamo anche controlli aggiuntivi che i clienti possono utilizzare per proteggersi da questi attacchi DDoS e a livello di applicazione tramite Cloud Armor.
La nostra soluzione integrata di sicurezza e gestione dei rischi, Security Command Center, protegge le applicazioni Vertex AI con controlli di prevenzione e rilevamento. Ciò include la risposta agli eventi di sicurezza di Vertex AI e la simulazione del percorso di attacco per imitare il modo in cui un malintenzionato reale potrebbe accedere e compromettere i carichi di lavoro di Vertex AI.
Per le applicazioni di AI, i clienti possono anche utilizzare Model Armor per ispezionare, instradare e proteggere i prompt e le risposte del foundation model. Può aiutare i clienti a mitigare i rischi come prompt injection, jailbreak, contenuti tossici ed esfiltrazione di dati sensibili. Model Armor si integrerà con i prodotti di Google Cloud, tra cui Vertex AI. Se vuoi saperne di più sull'accesso in anteprima a Model Armor, puoi registrarti qui o guardare il nostro video on demand.
Risorse aggiuntive
Hai bisogno di ulteriore assistenza per affrontare rischi legati all'AI come la negazione del servizio di ML e il reverse engineering del modello?
Collabora con gli esperti Mandiant per sfruttare l'AI in modo sicuro.
- Red Teaming per l'AI: convalida le difese che proteggono i sistemi di AI e valuta la tua capacità di rilevare e rispondere a un attacco attivo che coinvolge i sistemi di AI.
- Garantire la sicurezza dell'uso dell'AI: valuta l'architettura, le difese dei dati e le applicazioni create su modelli di AI e sviluppa modelli di minaccia utilizzando i framework di sicurezza.
Contatta gli esperti di sicurezza di Mandiant
Esempi di clienti
Vuoi sapere a quali domande del questionario di autovalutazione del rischio SAIF si riferisce questa categoria di rischio?
- Proteggi le tue applicazioni e i tuoi modelli di AI generativa da query dannose su larga scala provenienti da account utente, dispositivi o tramite API?
Rafforza la tua postura di sicurezza AI con Google Cloud
Stai cercando di capire cosa rende unica la protezione dell'AI? Scopri le differenze di sicurezza tra l'AI e lo sviluppo software tradizionale.
Vuoi iniziare a parlare di AI con la tua organizzazione? Inizia oggi stesso con sette domande chiave che i CISO dovrebbero porsi e a cui rispondere per utilizzare l'AI in modo sicuro e sfruttare i suoi vantaggi per la sicurezza.
