Amazon S3

Il connettore Amazon S3 fornisce accesso SQL ai bucket e agli oggetti Amazon S3.

Prima di iniziare

Prima di utilizzare il connettore Amazon S3, svolgi le seguenti attività:

  • Nel tuo progetto Google Cloud:
    • Concedi il ruolo IAM roles/connectors.admin all'utente che configura il connettore.
    • Concedi i seguenti ruoli IAM all'account di servizio che vuoi utilizzare per il connettore:
      • roles/secretmanager.viewer
      • roles/secretmanager.secretAccessor

      Un account di servizio è un tipo speciale di Account Google destinato a rappresentare una persona non umana utente che deve autenticarsi e avere l'autorizzazione ad accedere ai dati nelle API di Google. Se non hai un account di servizio, devi crearne uno. Per maggiori informazioni le informazioni, vedi Creazione di un account di servizio.

    • Attiva i seguenti servizi:
      • secretmanager.googleapis.com (API Secret Manager)
      • connectors.googleapis.com (API Connectors)

      Per informazioni su come attivare i servizi, consulta Abilitazione dei servizi.

    Se questi servizi o autorizzazioni non sono stati attivati in precedenza per il tuo progetto, ti verrà chiesto di attivarli durante la configurazione del connettore.

Configura il connettore

Per configurare il connettore è necessario creare una connessione al tuo origine dati (sistema di backend). Una connessione è specifica per un'origine dati. it significa che se hai molte origini dati, devi creare una connessione separata per ogni origine dati. Per creare una connessione:

  1. Nella console Cloud, vai a Connettori di integrazione > Pagina Connessioni e poi selezionare o creare un progetto Google Cloud.

    Vai alla pagina Connessioni

  2. Fai clic su + Crea nuova per aprire la pagina Crea connessione.
  3. Nella sezione Posizione, scegli la località per la connessione.
    1. Regione: seleziona una località dall'elenco a discesa.

      Le regioni supportate per i connettori includono:

      Per l'elenco di tutte le aree geografiche supportate, consulta la sezione Località.

    2. Fai clic su Avanti.
  4. Nella sezione Dettagli connessione, completa i seguenti passaggi:
    1. Connettore: seleziona Amazon S3 dall'elenco a discesa dei connettori disponibili.
    2. Versione del connettore: seleziona la versione del connettore dall'elenco a discesa delle versioni disponibili.
    3. Nel campo Nome connessione, inserisci un nome per l'istanza di connessione.

      I nomi delle connessioni devono soddisfare i seguenti criteri:

      • I nomi delle connessioni possono contenere lettere, numeri o trattini.
      • Le lettere devono essere minuscole.
      • I nomi delle connessioni devono iniziare con una lettera e terminare con una lettera o un numero.
      • I nomi delle connessioni non possono contenere più di 49 caratteri.
    4. (Facoltativo) Inserisci una Descrizione per l'istanza di connessione.
    5. Se vuoi, attiva Cloud Logging e poi seleziona un livello di log. Per impostazione predefinita, il livello di log è impostato su Error.
    6. Account di servizio: seleziona un account di servizio con i ruoli richiesti.
    7. (Facoltativo) Configura le impostazioni del nodo di connessione:

      • Numero minimo di nodi: inserisci il numero minimo di nodi di connessione.
      • Numero massimo di nodi: inserisci il numero massimo di nodi di connessione.

      Un nodo è un'unità (o una replica) di una connessione che elabora le transazioni. Sono necessari più nodi per elaborare più transazioni per una connessione e, per elaborare meno transazioni. Per capire in che modo i nodi influiscono sui prezzi dei connettori, consulta Prezzi per i nodi di connessione. Se non inserisci alcun valore, per impostazione predefinita il numero minimo di nodi è impostato su 2 (per una migliore disponibilità) e il numero massimo di nodi è impostato su 50.

    8. Regione AWS: regione in cui è ospitata l'istanza Amazon S3
    9. Facoltativamente, fai clic su + Aggiungi etichetta per aggiungere un'etichetta alla connessione sotto forma di coppia chiave/valore.
    10. Fai clic su Avanti.
  5. Nella sezione Destinazioni, inserisci i dettagli dell'host remoto (sistema di backend) a cui vuoi connetterti.
    1. Tipo di destinazione: seleziona un Tipo di destinazione.
      • Seleziona Indirizzo host dall'elenco per specificare il nome host o l'indirizzo IP della destinazione.
      • Se vuoi stabilire una connessione privata ai tuoi sistemi di backend, seleziona Collegamento endpoint dall'elenco, quindi seleziona il collegamento dell'endpoint richiesto. dall'elenco Allegato endpoint.

      Se vuoi stabilire una connessione pubblica ai tuoi sistemi di backend con maggiore sicurezza, puoi valuta la possibilità di configurare una rete statica in uscita indirizzi IP per le tue connessioni, quindi configura le regole del firewall per inserire nella lista consentita solo gli indirizzi IP statici specifici.

      Per inserire altre destinazioni, fai clic su + Aggiungi destinazione.

    2. Fai clic su Avanti.
  6. Nella sezione Autenticazione, inserisci i dettagli di autenticazione.
    1. Seleziona un Tipo di autenticazione e inserisci i dettagli pertinenti.

      La connessione Amazon S3 supporta i seguenti tipi di autenticazione:

      • Credenziali root
      • Ruoli IAM AWS
      • Credenziali temporanee AWS

      2. Per capire come configurare questi tipi di autenticazione, consulta Configurare l'autenticazione.

    2. Fai clic su Avanti.
  7. Rivedi: controlla i dettagli di connessione e autenticazione.
  8. Fai clic su Crea.

Configura autenticazione

Inserisci i dettagli in base all'autenticazione che vuoi utilizzare.

  • Credenziali root

    Per eseguire l'autenticazione utilizzando le credenziali dell'account principale.

    • Chiave di accesso AWS: la chiave di accesso dell'utente root
    • AWS Access Secret: la chiave segreta dell'utente root
  • Ruoli AWS IAM

    Eseguire l'autenticazione utilizzando un ruolo AWS IAM.

    • Chiave di accesso AWS: la chiave di accesso dell'utente IAM per cui assumere il ruolo
    • Segreto di accesso AWS: la chiave segreta dell'utente IAM per cui assumere il ruolo
    • ARN del ruolo AWS: specifica l'ARN del ruolo con cui vuoi autenticarti. Verranno recuperate solo le credenziali per il ruolo specificato.
    • ID esterno AWS: obbligatorio solo quando assegni un ruolo in un altro account.
  • Credenziali temporanee AWS

    Per eseguire l'autenticazione utilizzando credenziali temporanee

    • Chiave di accesso AWS: la chiave di accesso dell'utente IAM per cui deve assumere il ruolo.
    • AWS Access Secret: la chiave segreta dell'utente IAM per cui assumere il ruolo
    • Token sessione AWS: viene generato insieme alle credenziali temporanee.
    • ARN ruolo AWS: specifica l'ARN del ruolo AWS per il ruolo con cui vuoi eseguire l'autenticazione. Verranno recuperate solo le credenziali per il ruolo specificato.
    • ID esterno AWS: obbligatorio solo quando assegni un ruolo in un altro account.

Entità, operazioni e azioni

Tutti gli Integration Connectors forniscono un livello di astrazione per gli oggetti dell'applicazione collegata. Puoi accedere agli oggetti di un'applicazione solo tramite questa astrazione. L'astrazione viene mostrata come entità, operazioni e azioni.

  • Entità: un'entità può essere considerata un oggetto o un insieme di proprietà nel un'applicazione o un servizio connesso. La definizione di un'entità varia da un connettore all'altro. Ad esempio, in un connettore di database, le tabelle sono le entità, connettore file server, le cartelle sono le entità e, in un connettore del sistema di messaggistica, le code sono le entità.

    Tuttavia, è possibile che un connettore non supporti o non abbia entità, nel qual caso l'elenco Entities sarà vuoto.

  • Operazione: un'operazione è l'attività che è possibile eseguire su un'entità. Puoi eseguire una qualsiasi delle seguenti operazioni su un'entità:

    Selezionando un'entità dall'elenco disponibile, viene generato un elenco di le operazioni disponibili per l'entità. Per una descrizione dettagliata delle operazioni, consulta operazioni relative a entità. Tuttavia, se un connettore non supporta nessuna delle operazioni relative all'entità, come quelle non supportate operazioni non sono elencate nell'elenco Operations.

  • Azione: un'azione è una funzione di prima classe resa disponibile all'integrazione tramite l'interfaccia del connettore. Un'azione consente di apportare modifiche a una o più entità variano da connettore a connettore. Normalmente, un'azione ha alcuni parametri di input e un output . Tuttavia, è possibile che un connettore non supporti alcuna azione, nel qual caso l'elenco Actions sarà vuoto.

Azioni

Questa sezione elenca alcune delle azioni supportate dal connettore. Per capire come configurare azioni, consulta la sezione Esempi di azioni.

Azione CopyObject

Questa azione ti consente di copiare un oggetto da un bucket a un altro o all'interno dello stesso bucket.

Parametri di input dell'azione CopiaOggetto

Nome parametro Tipo di dati Obbligatorio Descrizione
BucketSource Stringa Sì Nome del bucket da cui deve essere copiato l'oggetto.
ObjectSource Oggetto Sì Nome dell'oggetto che deve essere copiato.
BucketDestination Stringa Sì Nome del bucket in cui deve essere copiato l'oggetto.
ObjectDestination Stringa No Nome dell'oggetto nel bucket di destinazione. Se non specificato, il nome sarà uguale a quello originale.

Parametri di output dell'azione CopyObject

Se la copia va a buon fine, questa azione restituisce lo stato 200 (OK).

Per capire come configurare l'azione CopyObject: consulta gli esempi di azioni.

Azione DownloadObjects

Questa azione recupera un altro oggetto da un bucket.

Parametri di input dell'azione DownloadObjects

Nome parametro Tipo di dati Obbligatorio Descrizione
Bucket Stringa Sì Nome del bucket in cui è presente l'oggetto da scaricare.
Oggetto Stringa No Nome dell'oggetto che deve essere scaricato. Se non viene specificato, vengono scaricati tutti gli oggetti del bucket specificato.
HasBytes Booleano Sì Specifica se il contenuto deve essere scaricato come stringa codificata Base64.
UpdatedStartDate Data/ora No La data di inizio dell'intervallo di tempo per scaricare gli oggetti. Se non specificato, gli oggetti vengono scaricate dalla data meno recente fino alla data di fine aggiornata.
UpdatedEndDate Data/ora No La data di fine dell'intervallo di tempo in cui scaricare gli oggetti. Se non specificato, gli oggetti vengono scaricate dall'UpdatedStartDate specificata fino al giorno corrente.

Parametri di output dell'azione DownloadObjects

Questa azione restituisce lo stato 200 (OK) se il download è riuscito.

Per capire come configurare l'azione DownloadObjects, consulta Esempi di azioni.

Azione UploadObject

Questa azione ti consente di caricare un oggetto in un bucket.

Parametri di input dell'azione UploadObject

Nome parametro Tipo di dati Obbligatorio Descrizione
Bucket Stringa Sì Nome del bucket in cui deve essere caricato l'oggetto.
ContentBytes Stringa No I contenuti in byte da caricare come file.
HasBytes Booleano Sì Specifica se il contenuto deve essere caricato come stringa codificata Base64.
AccessPolicy Stringa No Il criterio di accesso per questo oggetto. I valori consentiti sono PRIVATE, ANONREAD, ANONREADWRITE e AUTHREAD. Il valore predefinito è PRIVATE.
Contenuti Stringa No I contenuti da caricare.
FileName Stringa No Nome del file da caricare. Questo valore è obbligatorio quando specifichi il parametro FileContent.

Parametri di output dell'azione UploadObject

Questa azione restituisce lo stato 200 (OK) se il caricamento dell'oggetto è riuscito.

Per capire come configurare l'azione UploadObject, consulta Esempi di azioni.

Azione DeleteObject

Questa azione consente di eliminare un oggetto da un bucket.

Parametri di input dell'azione DeleteObject

Nome parametro Tipo di dati Obbligatorio Descrizione
Bucket Stringa Sì Il nome del bucket in cui è presente l'oggetto da eliminare.
Oggetto Stringa Sì Nome dell'oggetto che deve essere eliminato.

Parametri di output dell'azione DeleteObject

Se l'eliminazione è riuscita, questa azione restituisce lo stato 200 (OK).

Per capire come configurare l'azione DeleteObject: consulta gli esempi di azioni.

Azione MoveObject

Questa azione consente agli utenti di spostare un oggetto esistente di un bucket specifico in un altro bucket o nello stesso bucket.

Parametri di input dell'azione MoveObject

Nome parametro Tipo di dati Obbligatorio Descrizione
BucketSource Stringa Sì Il nome del bucket di origine in cui è presente l'oggetto da spostare.
ObjectSource Stringa Sì Nome dell'oggetto che deve essere spostato.
BucketDestination Stringa Sì Il nome del bucket di destinazione in cui deve essere spostato l'oggetto.
ObjectDestination Stringa No Nome dell'oggetto nel bucket di destinazione. Se non specificato, viene mantenuto il nome originale.

Parametri di output dell'azione SpostaOggetto

Questa azione restituisce lo stato 200 (OK) se l'operazione di spostamento è riuscita.

Per capire come configurare l'azione MoveObject, consulta Esempi di azioni.

Azione PutBucketAcl

Questa azione consente di aggiornare l'elenco di controllo dell'accesso (ACL) di un bucket.

Parametri di input dell'azione PutBucketAcl

Nome parametro Tipo di dati Obbligatorio Descrizione
Bucket Stringa Sì Nome del bucket a cui applicare l'ACL.
ACL Stringa Sì Livello di accesso da applicare al bucket.

Parametri di output dell'azione PutBucketAcl

Questa azione restituisce lo stato 200 (OK) se l'aggiornamento dell'ACL del bucket ha esito positivo.

Per capire come configurare l'azione PutBucketAcl, consulta Esempi di azioni.

Azione PutObjectAcl

Questa azione consente di aggiornare l'elenco di controllo dell'accesso (ACL) di un oggetto in un bucket.

Parametri di input dell'azione PutObjectAcl

Nome parametro Tipo di dati Obbligatorio Descrizione
Bucket Stringa Sì Nome del bucket in cui è presente l'oggetto.
ACL Stringa Sì Livello di accesso da applicare all'oggetto.
KEY Stringa Sì Nome dell'oggetto a cui deve essere applicato l'ACL.

Parametri di output dell'azione PutObjectAcl

Questa azione restituisce lo stato 200 (OK) se l'aggiornamento dell'ACL dell'oggetto ha esito positivo.

Per capire come configurare l'azione PutObjectAcl, consulta Esempi di azioni.

Esempi di azioni

Questa sezione descrive come eseguire alcune delle azioni in questo connettore.

Esempio: copiare un oggetto

In questo esempio viene copiato un oggetto da un bucket a un altro.

  1. Nella finestra di dialogo Configure connector task, fai clic su Actions.
  2. Seleziona l'azione CopyObject e fai clic su Fine.
  3. Nella sezione Input attività dell'attività Connettori, fai clic su connectorInputPayload e poi inserisci un valore simile al seguente nel campo Default Value: 
    {
"BucketSource": "aws-s3-bucket-source",
"ObjectSource": "pic.jpg",
"BucketDestination": "aws-s3-bucket-destination",
"ObjectDestination": "new_pic.jpg"
}

    4. Se l'azione ha esito positivo, il parametro di risposta connectorOutputPayload della task CopyObject avrà un valore simile al seguente:

    [{
"Status": "Success"
}]

Esempio: download di un oggetto

Questo esempio scarica un oggetto dal bucket specificato.

  1. Nella finestra di dialogo Configure connector task, fai clic su Actions.
  2. Seleziona l'azione DownloadObjects e poi fai clic su Fine.
  3. Nella sezione Input attività dell'attività Connettori, fai clic su connectorInputPayload, quindi inserisci un valore simile al seguente nella Campo Default Value: 
    {
"Bucket": "aws-s3-bucket-source",
"HasBytes": true
}

    4. Se l'azione viene eseguita correttamente, Risposta connectorOutputPayload dell'attività DownloadObjects avrà un valore simile al seguente:

    [{
"Success": "True",
"RemoteFile": "prefix1%2Faws-s3-bucket-source%2Finventory-test-1%2F2023-09-10T01-00Z%2Fmanifest.json",
"ContentBytes": "ewogICJzb3VyY2VCdWNrZXQiIDogImF3cy1zMy1idWNrZXQtYmNvbmUiLAogICJnOK"
},
{
"Success": "True",
"RemoteFile": "upload1.txt",
"ContentBytes": "VGhpcyBpcyBhIHRlc3RpbmcgZmlsZQ=="
}]

Esempio: caricare un oggetto

Questo esempio carica un oggetto nel bucket specificato.

  1. Nella finestra di dialogo Configure connector task, fai clic su Actions.
  2. Seleziona l'azione UploadObject e fai clic su Fine.
  3. Nella sezione Input attività dell'attività Connettori, fai clic su connectorInputPayload, quindi inserisci un valore simile al seguente nella Campo Default Value: 
    {
"Bucket": "aws-s3-bucket-source",
"FileName": "upload_1.txt",
"Content": "This is a testing file",
"AccessPolicy": "PUBLIC"
}

    4. Se l'azione ha esito positivo, il parametro di risposta connectorOutputPayload della task UploadObject avrà un valore simile al seguente:

    [{
"Status": "success",
"bucket": "aws-s3-bucket-source",
"rss:title": "Object 'upload_1.txt' was created in the bucket: aws-s3-bucket-source",
"object": "upload_1.txt"
}]

Esempio: eliminare un oggetto

Questo esempio elimina un oggetto dal bucket specificato.

  1. Nella finestra di dialogo Configure connector task, fai clic su Actions.
  2. Seleziona l'azione DeleteObject e poi fai clic su Fine.
  3. Nella sezione Input attività dell'attività Connettori, fai clic su connectorInputPayload, quindi inserisci un valore simile al seguente nella Campo Default Value: 
    {
"Bucket": "aws-s3-bucket-source",
"Object": "abc.png"
}

    4. Se l'azione viene eseguita correttamente, Risposta connectorOutputPayload dell'attività DeleteObject avrà un valore simile al seguente:

    [{
"Status": "Success"
}]

Esempio: spostare un oggetto

Questo esempio sposta un oggetto da un bucket a un altro.

  1. Nella finestra di dialogo Configure connector task, fai clic su Actions.
  2. Seleziona l'azione MoveObject e poi fai clic su Fine.
  3. Nella sezione Input attività dell'attività Connettori, fai clic su connectorInputPayload, quindi inserisci un valore simile al seguente nella Campo Default Value: 
    {
"BucketSource": "aws-s3-bucket-source",
"ObjectSource": "abc.png",
"BucketDestination": "aws-s3-bucket-destination",
"ObjectDestination": "moved.png"
}

    4. Se l'azione ha esito positivo, il parametro di risposta connectorOutputPayload della task MoveObject avrà un valore simile al seguente:

    [{
"Status": "Success"
}]

Esempio: aggiorna l'ACL di un bucket

Questo esempio aggiorna le autorizzazioni di controllo dell'accesso per un bucket.

  1. Nella finestra di dialogo Configure connector task, fai clic su Actions.
  2. Seleziona l'azione PutBucketAcl e poi fai clic su Fine.
  3. Nella sezione Input attività dell'attività Connettori, fai clic su connectorInputPayload, quindi inserisci un valore simile al seguente nella Campo Default Value: 
    {
"BucketSource": "aws-s3-bucket-source",
"ACL": "public-read"
}

    4. Se l'azione viene eseguita correttamente, Risposta connectorOutputPayload dell'attività PutBucketAcl avrà un valore simile al seguente:

    [{
"Status": "Success"
}]

Esempio: aggiorna l'ACL di un oggetto

In questo esempio vengono aggiornate le autorizzazioni di controllo dell'accesso per un oggetto in un bucket.

  1. Nella finestra di dialogo Configure connector task, fai clic su Actions.
  2. Seleziona l'azione PutObjectAcl e poi fai clic su Fine.
  3. Nella sezione Input attività dell'attività Connettori, fai clic su connectorInputPayload, quindi inserisci un valore simile al seguente nella Campo Default Value: 
    {
"Bucket": "aws-s3-bucket-source",
"ACL": "aws-exec-read",
"Key": "AWS_S3_BusinessCase_V2.xlsx"
}

    4. Se l'azione ha esito positivo, il parametro di risposta connectorOutputPayload della task PutObjectAcl avrà un valore simile al seguente:

    [{
"Status": "Success"
}]

Esempi di operazioni sulle entità

Questa sezione mostra come eseguire alcune delle operazioni relative alle entità in questo connettore.

Esempio: elenca i metadati di tutti gli oggetti

Questo esempio recupera i metadati di tutti gli oggetti nell'entità Object.

  1. Nella finestra di dialogo Configure connector task, fai clic su Entities.
  2. Seleziona Object dall'elenco Entity.
  3. Seleziona l'operazione List e fai clic su Fine.
  4. Facoltativamente, nella sezione Input attività dell'attività Connettori, puoi filtra il set di risultati specificando una clausola di filtro. Specifica il valore della clausola di filtro sempre tra virgolette singole ('). Ad esempio, Bucket='test-bucket'. Puoi anche specificare più condizioni di filtro utilizzando gli operatori logici. Ad esempio, Bucket='test-bucket' and OwnerId='b1ecc809ad8467088afb'.

Esempio: ottieni i metadati di un bucket

Questo esempio recupera i metadati del bucket con l'ID specificato dall'entità Bucket.

  1. Nella finestra di dialogo Configure connector task, fai clic su Entities.
  2. Seleziona Bucket dall'elenco Entity.
  3. Seleziona l'operazione Get e fai clic su Fine.
  4. Nella sezione Input attività dell'attività Connettori, fai clic su EntityId e quindi inserisci demo_replication nel campo Valore predefinito.

    Qui, demo_replication è un ID bucket univoco nell'entità Bucket.

Esempio: creare un bucket

Questo esempio crea un bucket nell'entità Bucket.

  1. Nella finestra di dialogo Configure connector task, fai clic su Entities.
  2. Seleziona Bucket dall'elenco Entity.
  3. Seleziona l'operazione Create e fai clic su Fine.
  4. Nella sezione Input attività dell'attività Connettori, fai clic su connectorInputPayload e poi inserisci un valore simile al seguente nel campo Default Value: 
    {
"Bucket": "Demo1697528098686"
}

    Se l'integrazione è andata a buon fine, il campo connectorOutputPayload dell'attività del connettore avrà un valore simile al seguente:

    [{
"Bucket": "Demo1697528098686"
}]

Esempio: eliminare un bucket

Questo esempio elimina il bucket con l'ID specificato nell'entità Bucket.

  1. Nella finestra di dialogo Configure connector task, fai clic su Entities.
  2. Seleziona Bucket dall'elenco Entity.
  3. Seleziona l'operazione Delete e fai clic su Fine.
  4. Nella sezione Input attività dell'attività Connettori, fai clic su entityId e poi inserisci demo1697528098686 nel campo Valore predefinito.

Utilizzare la connessione Amazon S3 in un'integrazione

Una volta creata, la connessione diventa disponibile sia nell'integrazione Apigee sia nell'integrazione delle applicazioni. Puoi utilizzare la connessione in un'integrazione tramite l'attività Connettori.

  • Per capire come creare e utilizzare l'attività Connectors in Apigee Integration, vedi Attività connettori.
  • Per capire come creare e utilizzare l'attività Connettori in Application Integration, vedi Attività connettori.

Ricevere assistenza dalla community Google Cloud

Puoi pubblicare le tue domande e discutere di questo connettore in Google Cloud nei forum di Cloud.

Passaggi successivi