Esecuzione del codice in Cloud Run

Un vantaggio fondamentale dell'utilizzo di Cloud Run per ospitare agenti AI è che isola il codice utilizzando il suo ambiente di esecuzione sicuro. Se crei uno strumento sandbox del codice in Cloud Run e lo esegui nel container, puoi eseguire il codice dell'applicazione utilizzando qualsiasi linguaggio di programmazione tu scelga.

Sandbox sicura a due livelli

Cloud Run isola tutte le istanze utilizzando un sandbox a due livelli che consiste in un livello supportato dall'hardware equivalente alle singole VM (virtualizzazione x86) e un livello del kernel software. Per saperne di più, consulta la Panoramica sulla progettazione della sicurezza.

Quando esegui il deployment del codice, Cloud Run lo limita all'interno dell'ambiente sandbox. Questo isolamento ti consente di eseguire codice non attendibile, ad esempio codice generato da un modello linguistico di grandi dimensioni (LLM), con maggiore sicurezza. Quando esegui codice non attendibile, limita le autorizzazioni IAM sul tuo servizio Cloud Run e utilizza le regole firewall VPC per impedire al codice di effettuare chiamate a internet.

Modalità di esecuzione del codice

Cloud Run fornisce le seguenti modalità per l'esecuzione del codice:

  • Esecuzione asincrona: per evitare di interrompere il flusso principale dell'applicazione, esegui le attività in modo asincrono utilizzando un job Cloud Run per le attività in esecuzione più lunga o in background. Ad esempio, esegui un job Cloud Run che carica il codice in Cloud Storage, installa le dipendenze richieste e poi elabora e memorizza i risultati di nuovo in Cloud Storage.

  • Esecuzione sincrona: per i processi che richiedono una risposta immediata, utilizza un servizio Cloud Run. Un servizio Cloud Run ha un timeout massimo di un'ora, il che offre un tempo significativo per l'esecuzione del codice. Per limitare le istanze all'elaborazione di una richiesta alla volta, imposta il valore di concorrenza su 1. Puoi anche recuperare il codice da eseguire come parte del corpo della richiesta, restituire il risultato nella risposta e poi terminare l'istanza del container.

    L'immagine seguente mostra le due modalità di esecuzione del codice:

    Per l'esecuzione asincrona, il codice viene caricato in Cloud Storage, che viene eseguito come job Cloud Run. Il job invia i risultati dell'esecuzione a Cloud Storage per essere archiviati. Per l'esecuzione sincrona, l'agente invia una richiesta al servizio Cloud Run, con il codice nel corpo della richiesta. Il servizio ha un timeout di un'ora e una concorrenza di `1`. Il servizio Cloud Run elabora il codice e lo invia all'istanza del servizio, che restituisce una risposta all'agente.
    Figura 1. Modalità di esecuzione del codice in Cloud Run

Passaggi successivi