Le modèle Oracle vers BigQuery est un pipeline par lot qui copie les données d'une table Oracle vers une table BigQuery existante. Ce pipeline utilise JDBC pour se connecter à Oracle. Pour obtenir une couche supplémentaire de protection, vous pouvez également transmettre une clé Cloud KMS avec des paramètres de nom d'utilisateur, de mot de passe et de chaîne de connexion encodés en base64 et chiffrés avec la clé Cloud KMS. Pour en savoir plus sur le chiffrement des paramètres de nom d'utilisateur, de mot de passe et de chaîne de connexion, consultez la page Point de terminaison de chiffrement de l'API Cloud KMS.
Conditions requises pour ce pipeline
- La table BigQuery doit exister avant l'exécution du pipeline.
- La table BigQuery doit avoir un schéma compatible.
- La base de données relationnelle doit être accessible à partir du sous-réseau dans lequel Dataflow est exécuté.
Paramètres de modèle
Paramètres | Description |
---|---|
connectionURL |
Chaîne d'URL de connexion JDBC. Par exemple, jdbc:oracle:thin:@some-host:port:sid .
Vous pouvez transmettre cette valeur sous forme de chaîne chiffrée avec une clé Cloud KMS, puis encodée en base64.
Supprimez les espaces blancs de la chaîne encodée en base64. |
outputTable |
Emplacement de la table de sortie BigQuery, au format <my-project>:<my-dataset>.<my-table> . |
bigQueryLoadingTemporaryDirectory |
Répertoire temporaire du processus de chargement BigQuery.
Par exemple, gs://<my-bucket>/my-files/temp_dir . |
query |
Facultatif lors de l'utilisation de partitions : requête à exécuter sur la source pour extraire les données. Par exemple, select * from sampledb.sample_table . |
table |
Obligatoire lors de l'utilisation de partitions : table à partir de laquelle extraire les données. Ce paramètre accepte également une sous-requête entre parenthèses.
Par exemple, Person ou (select id, name from Person) as subq . |
partitionColumn |
Obligatoire lors de l'utilisation de partitions : nom d'une colonne à utiliser pour le partitionnement. Seules les colonnes numériques sont acceptées. |
connectionProperties |
Facultatif : chaîne de propriétés à utiliser pour la connexion JDBC. Le format de la chaîne doit être [propertyName=property;]* .
Par exemple, unicode=true;characterEncoding=UTF-8 . |
username |
Facultatif : nom d'utilisateur à utiliser pour la connexion JDBC. Vous pouvez transmettre cette valeur chiffrée par une clé Cloud KMS en tant que chaîne encodée en base64. |
password |
Facultatif : mot de passe à utiliser pour la connexion JDBC. Vous pouvez transmettre cette valeur chiffrée par une clé Cloud KMS en tant que chaîne encodée en base64. |
KMSEncryptionKey |
Facultatif : clé de chiffrement Cloud KMS à utiliser pour déchiffrer le nom d'utilisateur, le mot de passe et la chaîne de connexion. Si vous transmettez une clé Cloud KMS, vous devez également chiffrer le nom d'utilisateur, le mot de passe et la chaîne de connexion. |
numPartitions |
Facultatif : nombre de partitions à utiliser. Si aucun nombre n'est spécifié, un nombre prudent est utilisé par le nœud de calcul. |
disabledAlgorithms |
Facultatif : liste d'algorithmes à désactiver, séparés par une virgule. Si cette valeur est définie sur none , aucun algorithme n'est désactivé.
Utilisez ce paramètre avec prudence, car les algorithmes désactivés par défaut peuvent présenter des failles ou des problèmes de performances.
Par exemple : SSLv3, RC4. |
extraFilesToStage |
Facultatif : chemins d'accès Cloud Storage ou secrets Secret Manager, séparés par une virgule, afin que les fichiers soient traités dans le nœud de calcul.
Ces fichiers sont enregistrés dans le répertoire /extra_files de chaque nœud de calcul.
Par exemple, gs://<my-bucket>/file.txt,projects/<project-id>/secrets/<secret-id>/versions/<version-id> . |
Exécuter le modèle
Console
- Accédez à la page Dataflow Créer un job à partir d'un modèle. Accéder à la page Créer un job à partir d'un modèle
- Dans le champ Nom du job, saisissez un nom de job unique.
- Facultatif : pour Point de terminaison régional, sélectionnez une valeur dans le menu déroulant. La région par défaut est
us-central1
.Pour obtenir la liste des régions dans lesquelles vous pouvez exécuter un job Dataflow, consultez la page Emplacements Dataflow.
- Dans le menu déroulant Modèle Dataflow, sélectionnez the Oracle to BigQuery template.
- Dans les champs fournis, saisissez vos valeurs de paramètres.
- Cliquez sur Run Job (Exécuter la tâche).
gcloud CLI
Dans le shell ou le terminal, exécutez le modèle :
gcloud dataflow flex-template run JOB_NAME \ --project=PROJECT_ID \ --region=REGION_NAME \ --template-file-gcs-location=gs://dataflow-templates-REGION_NAME/VERSION/flex/Oracle_to_BigQuery \ --parameters \ connectionURL=JDBC_CONNECTION_URL,\ query=SOURCE_SQL_QUERY,\ outputTable=PROJECT_ID:DATASET.TABLE_NAME, bigQueryLoadingTemporaryDirectory=PATH_TO_TEMP_DIR_ON_GCS,\ connectionProperties=CONNECTION_PROPERTIES,\ username=CONNECTION_USERNAME,\ password=CONNECTION_PASSWORD,\ KMSEncryptionKey=KMS_ENCRYPTION_KEY
Remplacez les éléments suivants :
JOB_NAME
: nom de job unique de votre choixVERSION
: version du modèle que vous souhaitez utiliserVous pouvez utiliser les valeurs suivantes :
latest
pour utiliser la dernière version du modèle, disponible dans le dossier parent non daté du bucket gs://dataflow-templates-REGION_NAME/latest/- Le nom de la version, par exemple
2023-09-12-00_RC00
, pour utiliser une version spécifique du modèle, qui est imbriqué dans le dossier parent daté respectif dans le bucket : gs://dataflow-templates-REGION_NAME/
REGION_NAME
: région dans laquelle vous souhaitez déployer votre job Dataflow, par exempleus-central1
JDBC_CONNECTION_URL
: URL de connexion JDBCSOURCE_SQL_QUERY
: requête SQL à exécuter sur la base de données source.DATASET
: votre ensemble de données BigQuery.TABLE_NAME
: nom de votre table BigQuery.PATH_TO_TEMP_DIR_ON_GCS
: chemin d'accès Cloud Storage au répertoire temporaireCONNECTION_PROPERTIES
: propriétés de connexion JDBC, le cas échéant.CONNECTION_USERNAME
: nom d'utilisateur de la connexion JDBCCONNECTION_PASSWORD
: mot de passe de la connexion JDBCKMS_ENCRYPTION_KEY
: clé de chiffrement Cloud KMS.
API
Pour exécuter le modèle à l'aide de l'API REST, envoyez une requête HTTP POST. Pour en savoir plus sur l'API, ses autorisations et leurs champs d'application, consultez la section projects.templates.launch
.
POST https://dataflow.googleapis.com/v1b3/projects/PROJECT_ID/locations/LOCATION/flexTemplates:launch { "jobName": "JOB_NAME", "parameters": { "connectionURL": "JDBC_CONNECTION_URL", "query": "SOURCE_SQL_QUERY", "outputTable": "PROJECT_ID:DATASET.TABLE_NAME", "bigQueryLoadingTemporaryDirectory": "PATH_TO_TEMP_DIR_ON_GCS", "connectionProperties": "CONNECTION_PROPERTIES", "username": "CONNECTION_USERNAME", "password": "CONNECTION_PASSWORD", "KMSEncryptionKey":"KMS_ENCRYPTION_KEY" }, "environment": { "zone": "us-central1-f" } }
Remplacez les éléments suivants :
PROJECT_ID
: ID du projet Google Cloud dans lequel vous souhaitez exécuter le job DataflowJOB_NAME
: nom de job unique de votre choixVERSION
: version du modèle que vous souhaitez utiliserVous pouvez utiliser les valeurs suivantes :
latest
pour utiliser la dernière version du modèle, disponible dans le dossier parent non daté du bucket gs://dataflow-templates-REGION_NAME/latest/- Le nom de la version, par exemple
2023-09-12-00_RC00
, pour utiliser une version spécifique du modèle, qui est imbriqué dans le dossier parent daté respectif dans le bucket : gs://dataflow-templates-REGION_NAME/
LOCATION
: région dans laquelle vous souhaitez déployer votre job Dataflow, par exempleus-central1
JDBC_CONNECTION_URL
: URL de connexion JDBCSOURCE_SQL_QUERY
: requête SQL à exécuter sur la base de données source.DATASET
: votre ensemble de données BigQuery.TABLE_NAME
: nom de votre table BigQuery.PATH_TO_TEMP_DIR_ON_GCS
: chemin d'accès Cloud Storage au répertoire temporaireCONNECTION_PROPERTIES
: propriétés de connexion JDBC, le cas échéant.CONNECTION_USERNAME
: nom d'utilisateur de la connexion JDBCCONNECTION_PASSWORD
: mot de passe de la connexion JDBCKMS_ENCRYPTION_KEY
: clé de chiffrement Cloud KMS.