Secure AI Framework (SAIF) e Google Cloud
Secure AI Framework (SAIF) e Google Cloud
Secure AI Framework (SAIF) e Google Cloud
Secure AI Framework (SAIF) offre indicazioni alle organizzazioni che vogliono proteggere i sistemi di AI.
Google ha creato SAIF.google, che include una valutazione del rischio SAIF per supportare l'implementazione di SAIF nelle organizzazioni, per aiutare a creare ed eseguire il deployment di sistemi di AI in modo sicuro.
Di seguito, esamineremo il portafoglio Google Cloud per la sicurezza attraverso il punto di vista di SAIF e mostreremo come possiamo aiutare la tua organizzazione a mitigare i potenziali rischi dell'AI con vari controlli e soluzioni cloud.
Il SAIF è stato progettato per rispondere alle principali problematiche dei professionisti della sicurezza, come la gestione dei rischi, la sicurezza e la privacy dei modelli AI/ML, contribuendo a garantire che i modelli di AI implementati siano sicuri per definizione.
Poisoning dei dati
Nell'ambito dell'impegno di Google Cloud per la sicurezza, i nostri modelli di base dispongono di ampi controlli di accesso per impedire la copia o la lettura non autorizzata, nonché di funzionalità di rilevamento all'avanguardia per monitorare le azioni non autorizzate.
Google Cloud fornisce anche controlli che i nostri clienti possono configurare sulla nostra piattaforma per proteggere il loro utilizzo dei nostri modelli o dei servizi di terze parti. Le policy organizzative e i controlli di servizio VPC impediscono l'esfiltrazione dei dati, insieme ai controlli granulari di Identity and Access Management (IAM) che impediscono l'accesso non autorizzato.
Scopri di più sui modi in cui Google Cloud aiuta i clienti a proteggere i propri dati:
- Controlli di servizio VPC: impedisci l'esfiltrazione di dati creando perimetri di isolamento attorno alle tue risorse cloud, ai dati sensibili e alle reti, incluse le policy specifiche della piattaforma dell'agente.
- Fornisci barriere di sicurezza per imporre quali configurazioni di risorse sono consentite o negate con Organizational Policy Service.
- Organizza, monitora e gestisci il ciclo di vita dei modelli ML con Model Registry su Gemini Enterprise Agent Platform.
- Gestione della postura di sicurezza dei dati: governa i modelli, i set di dati e gli artefatti ML correlati per la sicurezza, la privacy e la conformità tramite criteri di controllo dell'accesso e del flusso.
- L'AI riservata basata su Confidential Computing estende la protezione dei dati e dei modelli basata su hardware con riservatezza, integrità e isolamento dalla CPU alle GPU, consentendo di accelerare i carichi di lavoro critici per l'AI e il machine learning. Di recente abbiamo annunciato due nuove offerte di Confidential Computing progettate specificamente per proteggere la privacy e la riservatezza dei carichi di lavoro AI/ML: le Confidential VM con GPU NVIDIA H100 Tensor Core e le Confidential VM con supporto di Intel Advanced Matrix Extensions (Intel AMX). Scopri di più.
- Access Management con privilegi di Google: ottieni un livello di affidabilità elevato per l'accesso ai dati e alle chiavi di crittografia con Approvazione accesso, Access Transparency e Key Access Justifications. Google condivide le richieste di accesso ai dati dei clienti da parte dei dipendenti Google e offre ai clienti la possibilità di richiedere controlli espliciti (Access Approval per il cliente come approvatore multipartito) o basati su giustificazioni e con validazione crittografica (Key Access Justifications) sull'accesso ai dati del cloud provider, inclusi i carichi di lavoro AI. La verifica crittografica e i log dettagliati garantiscono la massima trasparenza e controllo, rafforzando la fiducia nella gestione da parte di Google dei tuoi dati sensibili, inclusi i dati relativi all'AI.
Hai bisogno di ulteriore assistenza per affrontare rischi legati all'AI come l'esfiltrazione dei modelli, la manomissione delle origini dei modelli e il poisoning dei dati?
I servizi di consulenza di Google Cloud ti aiutano a ottenere una solida postura di sicurezza dell'AI per i controlli di accesso ai modelli e ai dati.
- Secure Cloud Foundations: crea basi solide e sicure dell'infrastruttura con le protezioni necessarie per eseguire i carichi di lavoro di AI.
- Acceleratore per la sicurezza dell'AI generativa: scopri come gli esperti di sicurezza dell'AI di Google implementano il Secure AI Framework di Google per salvaguardare i carichi di lavoro dell'AI generativa dai rischi specifici dell'AI.
- Protezione della sicurezza: design sicuro ed esecuzione del deployment end-to-end dei servizi di AI utilizzando Infrastructure as Code (IaC).
- Simulazioni avanzate delle minacce: simula minacce AI del mondo reale in un ambiente Google Cloud isolato per addestrare i team di sicurezza e valutare la loro preparazione a rispondere agli incidenti di sicurezza.
Contatta i servizi di Google Cloud Consulting
Collabora con gli esperti di Mandiant per sfruttare l'AI in modo sicuro.
- Red Teaming per l'AI: convalida le difese che proteggono i sistemi di AI e valuta la tua capacità di rilevare e rispondere a un attacco attivo che coinvolge i sistemi di AI.
- Garantire la sicurezza dell'uso dell'AI: valuta l'architettura, le difese dei dati e le applicazioni create su modelli di AI e sviluppa modelli di minaccia utilizzando i framework di sicurezza.
Contatta gli esperti di sicurezza di Mandiant
Ti stai chiedendo a quali domande della valutazione del rischio SAIF si riferisce questa categoria di rischio?
- Sei in grado di rilevare, rimuovere e correggere le modifiche dannose o accidentali nei dati di addestramento, ottimizzazione o valutazione?
- Hai un inventario completo di tutti i modelli, i set di dati (per l'addestramento, l'ottimizzazione o la valutazione) e gli artefatti ML correlati (come il codice)?
- Disponi di controlli di accesso efficaci su tutti i modelli, i set di dati e gli artefatti ML correlati per ridurre al minimo, rilevare e prevenire la lettura o la copia non autorizzata?
- Sei in grado di garantire che tutti i dati, i modelli e il codice utilizzati per addestrare, ottimizzare o valutare i modelli non possano essere manomessi senza essere rilevati durante lo sviluppo e il deployment del modello?
- I framework, le librerie, i sistemi software e i componenti hardware utilizzati nello sviluppo e nel deployment dei tuoi modelli vengono analizzati e protetti dalle vulnerabilità di sicurezza?
Procedure
Nell'ambito dell'impegno di Google Cloud per la sicurezza, i nostri modelli di base dispongono di ampi controlli di accesso per impedire la copia o la lettura non autorizzata, nonché di funzionalità di rilevamento all'avanguardia per monitorare le azioni non autorizzate.
Google Cloud fornisce anche controlli che i nostri clienti possono configurare sulla nostra piattaforma per proteggere il loro utilizzo dei nostri modelli o dei servizi di terze parti. Le policy organizzative e i controlli di servizio VPC impediscono l'esfiltrazione dei dati, insieme ai controlli granulari di Identity and Access Management (IAM) che impediscono l'accesso non autorizzato.
Scopri di più sui modi in cui Google Cloud aiuta i clienti a proteggere i propri dati:
- Controlli di servizio VPC: impedisci l'esfiltrazione di dati creando perimetri di isolamento attorno alle tue risorse cloud, ai dati sensibili e alle reti, incluse le policy specifiche della piattaforma dell'agente.
- Fornisci barriere di sicurezza per imporre quali configurazioni di risorse sono consentite o negate con Organizational Policy Service.
- Organizza, monitora e gestisci il ciclo di vita dei modelli ML con Model Registry su Gemini Enterprise Agent Platform.
- Gestione della postura di sicurezza dei dati: governa i modelli, i set di dati e gli artefatti ML correlati per la sicurezza, la privacy e la conformità tramite criteri di controllo dell'accesso e del flusso.
- L'AI riservata basata su Confidential Computing estende la protezione dei dati e dei modelli basata su hardware con riservatezza, integrità e isolamento dalla CPU alle GPU, consentendo di accelerare i carichi di lavoro critici per l'AI e il machine learning. Di recente abbiamo annunciato due nuove offerte di Confidential Computing progettate specificamente per proteggere la privacy e la riservatezza dei carichi di lavoro AI/ML: le Confidential VM con GPU NVIDIA H100 Tensor Core e le Confidential VM con supporto di Intel Advanced Matrix Extensions (Intel AMX). Scopri di più.
- Access Management con privilegi di Google: ottieni un livello di affidabilità elevato per l'accesso ai dati e alle chiavi di crittografia con Approvazione accesso, Access Transparency e Key Access Justifications. Google condivide le richieste di accesso ai dati dei clienti da parte dei dipendenti Google e offre ai clienti la possibilità di richiedere controlli espliciti (Access Approval per il cliente come approvatore multipartito) o basati su giustificazioni e con validazione crittografica (Key Access Justifications) sull'accesso ai dati del cloud provider, inclusi i carichi di lavoro AI. La verifica crittografica e i log dettagliati garantiscono la massima trasparenza e controllo, rafforzando la fiducia nella gestione da parte di Google dei tuoi dati sensibili, inclusi i dati relativi all'AI.
Risorse aggiuntive
Hai bisogno di ulteriore assistenza per affrontare rischi legati all'AI come l'esfiltrazione dei modelli, la manomissione delle origini dei modelli e il poisoning dei dati?
I servizi di consulenza di Google Cloud ti aiutano a ottenere una solida postura di sicurezza dell'AI per i controlli di accesso ai modelli e ai dati.
- Secure Cloud Foundations: crea basi solide e sicure dell'infrastruttura con le protezioni necessarie per eseguire i carichi di lavoro di AI.
- Acceleratore per la sicurezza dell'AI generativa: scopri come gli esperti di sicurezza dell'AI di Google implementano il Secure AI Framework di Google per salvaguardare i carichi di lavoro dell'AI generativa dai rischi specifici dell'AI.
- Protezione della sicurezza: design sicuro ed esecuzione del deployment end-to-end dei servizi di AI utilizzando Infrastructure as Code (IaC).
- Simulazioni avanzate delle minacce: simula minacce AI del mondo reale in un ambiente Google Cloud isolato per addestrare i team di sicurezza e valutare la loro preparazione a rispondere agli incidenti di sicurezza.
Contatta i servizi di Google Cloud Consulting
Collabora con gli esperti di Mandiant per sfruttare l'AI in modo sicuro.
- Red Teaming per l'AI: convalida le difese che proteggono i sistemi di AI e valuta la tua capacità di rilevare e rispondere a un attacco attivo che coinvolge i sistemi di AI.
- Garantire la sicurezza dell'uso dell'AI: valuta l'architettura, le difese dei dati e le applicazioni create su modelli di AI e sviluppa modelli di minaccia utilizzando i framework di sicurezza.
Contatta gli esperti di sicurezza di Mandiant
Esempi di clienti
Ti stai chiedendo a quali domande della valutazione del rischio SAIF si riferisce questa categoria di rischio?
- Sei in grado di rilevare, rimuovere e correggere le modifiche dannose o accidentali nei dati di addestramento, ottimizzazione o valutazione?
- Hai un inventario completo di tutti i modelli, i set di dati (per l'addestramento, l'ottimizzazione o la valutazione) e gli artefatti ML correlati (come il codice)?
- Disponi di controlli di accesso efficaci su tutti i modelli, i set di dati e gli artefatti ML correlati per ridurre al minimo, rilevare e prevenire la lettura o la copia non autorizzata?
- Sei in grado di garantire che tutti i dati, i modelli e il codice utilizzati per addestrare, ottimizzare o valutare i modelli non possano essere manomessi senza essere rilevati durante lo sviluppo e il deployment del modello?
- I framework, le librerie, i sistemi software e i componenti hardware utilizzati nello sviluppo e nel deployment dei tuoi modelli vengono analizzati e protetti dalle vulnerabilità di sicurezza?
Denial of ML service (DoS)
La sicurezza è un principio fondamentale di Google Cloud e adottiamo un approccio di difesa in profondità. Nell'ambito delle nostre misure efficaci, abbiamo solide capacità di protezione contro interruzioni del servizio come gli attacchi distributed denial of service (DDoS). Forniamo anche controlli aggiuntivi che i clienti possono utilizzare per proteggersi da attacchi DDoS e di tipo application layer tramite Cloud Armor.
La nostra soluzione integrata di sicurezza e gestione dei rischi, Security Command Center, protegge le applicazioni Gemini Enterprise Agent Platform con controlli di prevenzione e rilevamento. Ciò include la risposta agli eventi di sicurezza della piattaforma agente e la simulazione del percorso di attacco per imitare il modo in cui un aggressore reale potrebbe accedere e compromettere i carichi di lavoro della piattaforma agente.
Per le applicazioni di AI, i clienti possono anche utilizzare Model Armor per ispezionare, instradare e proteggere i prompt e le risposte del foundation model. Può aiutare i clienti a mitigare rischi come prompt injection, jailbreak, contenuti tossici e fuga di dati sensibili. Model Armor si integrerà con i prodotti di Google Cloud, inclusa la piattaforma Agent. Se vuoi saperne di più sull'accesso in anteprima a Model Armor, puoi registrarti qui o guardare il nostro video on demand.
Hai bisogno di ulteriore assistenza per affrontare rischi legati all'AI come la negazione del servizio di ML e il reverse engineering del modello?
Collabora con gli esperti Mandiant per sfruttare l'AI in modo sicuro.
- Red Teaming per l'AI: convalida le difese che proteggono i sistemi di AI e valuta la tua capacità di rilevare e rispondere a un attacco attivo che coinvolge i sistemi di AI.
- Garantire la sicurezza dell'uso dell'AI: valuta l'architettura, le difese dei dati e le applicazioni create su modelli di AI e sviluppa modelli di minaccia utilizzando i framework di sicurezza.
Contatta gli esperti di sicurezza di Mandiant
Procedure
La sicurezza è un principio fondamentale di Google Cloud e adottiamo un approccio di difesa in profondità. Nell'ambito delle nostre misure efficaci, abbiamo solide capacità di protezione contro interruzioni del servizio come gli attacchi distributed denial of service (DDoS). Forniamo anche controlli aggiuntivi che i clienti possono utilizzare per proteggersi da attacchi DDoS e di tipo application layer tramite Cloud Armor.
La nostra soluzione integrata di sicurezza e gestione dei rischi, Security Command Center, protegge le applicazioni Gemini Enterprise Agent Platform con controlli di prevenzione e rilevamento. Ciò include la risposta agli eventi di sicurezza della piattaforma agente e la simulazione del percorso di attacco per imitare il modo in cui un aggressore reale potrebbe accedere e compromettere i carichi di lavoro della piattaforma agente.
Per le applicazioni di AI, i clienti possono anche utilizzare Model Armor per ispezionare, instradare e proteggere i prompt e le risposte del foundation model. Può aiutare i clienti a mitigare rischi come prompt injection, jailbreak, contenuti tossici e fuga di dati sensibili. Model Armor si integrerà con i prodotti di Google Cloud, inclusa la piattaforma Agent. Se vuoi saperne di più sull'accesso in anteprima a Model Armor, puoi registrarti qui o guardare il nostro video on demand.
Risorse aggiuntive
Hai bisogno di ulteriore assistenza per affrontare rischi legati all'AI come la negazione del servizio di ML e il reverse engineering del modello?
Collabora con gli esperti Mandiant per sfruttare l'AI in modo sicuro.
- Red Teaming per l'AI: convalida le difese che proteggono i sistemi di AI e valuta la tua capacità di rilevare e rispondere a un attacco attivo che coinvolge i sistemi di AI.
- Garantire la sicurezza dell'uso dell'AI: valuta l'architettura, le difese dei dati e le applicazioni create su modelli di AI e sviluppa modelli di minaccia utilizzando i framework di sicurezza.
Contatta gli esperti di sicurezza di Mandiant
