Le modèle Java Database Connectivity (JDBC) vers Pub/Sub est un pipeline de traitement par lot qui ingère les données d'une source JDBC et écrit les enregistrements obtenus dans un sujet Pub/Sub préexistant en tant que chaîne JSON.
Conditions requises pour ce pipeline
- La source JDBC doit exister avant l'exécution du pipeline.
- Le sujet de sortie Pub/Sub doit exister avant l'exécution du pipeline.
Paramètres de modèle
Paramètres obligatoires
- driverClassName : Nom de classe du pilote JDBC. (Exemple : com.mysql.jdbc.Driver).
- connectionUrl : chaîne d'URL de connexion JDBC. Vous pouvez transmettre cette valeur sous forme de chaîne chiffrée avec une clé Cloud KMS, puis encodée en base64. Supprimez les espaces blancs de la chaîne encodée en base64. (Exemple : jdbc:mysql://some-host:3306/sampledb).
- driverJars : chemins Cloud Storage séparés par une virgule pour les pilotes JDBC. (Exemple : gs://your-bucket/driver_jar1.jar,gs://your-bucket/driver_jar2.jar).
- query : requête à exécuter sur la source pour extraire les données. (Exemple : sélectionnez * dans sampledb.sample_table).
- outputTopic : sujet Pub/Sub sur lequel publier, au format projects/<PROJECT_ID>/topics/<TOPIC_NAME>. (Exemple : projects/your-project-id/topics/your-topic-name).
Paramètres facultatifs
- username : nom d'utilisateur à utiliser pour la connexion JDBC. Vous pouvez transmettre cette valeur sous forme de chaîne chiffrée avec une clé Cloud KMS, puis encodée en base64. Exemple :
echo -n 'some_username' | glcloud kms encrypt --location=my_location --keyring=mykeyring --key=mykey --plaintext-file=- --ciphertext-file=- | base64
- password : mot de passe à utiliser pour la connexion JDBC. Vous pouvez transmettre cette valeur sous forme de chaîne chiffrée avec une clé Cloud KMS, puis encodée en base64. Exemple :
echo -n 'some_password' | glcloud kms encrypt --location=my_location --keyring=mykeyring --key=mykey --plaintext-file=- --ciphertext-file=- | base64
- connectionProperties : chaîne de propriétés à utiliser pour la connexion JDBC. Le format de la chaîne doit être
[propertyName=property;]*
. (Exemple : unicode=true;characterEncoding=UTF-8). - KMSEncryptionKey : clé de chiffrement Cloud KMS à utiliser pour déchiffrer le nom d'utilisateur, le mot de passe et la chaîne de connexion. Si la clé Cloud KMS est transmise, le nom d'utilisateur, le mot de passe et la chaîne de connexion doivent tous être transmis de manière chiffrée et encodée en base64. (Exemple : projects/your-project/locations/global/keyRings/your-keyring/cryptoKeys/your-key).
- disabledAlgorithms : algorithmes à désactiver, séparés par une virgule. Si cette valeur est définie sur aucun, aucun algorithme n'est désactivé. Utilisez ce paramètre avec prudence, car les algorithmes désactivés par défaut peuvent présenter des failles ou des problèmes de performances. (Exemple : SSLv3, RC4).
- extraFilesToStage : Chemins d'accès Cloud Storage ou secrets Secret Manager séparés par une virgule afin que les fichiers soient traités dans le nœud de calcul. Ces fichiers sont enregistrés dans le répertoire "/extra_files" de chaque nœud de calcul. (Exemple : gs://)
- defaultLogLevel : définit le niveau de journalisation dans les nœuds de calcul. Les options acceptées sont OFF, ERROR, WARN, INFO, DEBUG et TRACE. La valeur par défaut est INFO.
Exécuter le modèle
Console
- Accédez à la page Dataflow Créer un job à partir d'un modèle. Accéder à la page Créer un job à partir d'un modèle
- Dans le champ Nom du job, saisissez un nom de job unique.
- Facultatif : pour Point de terminaison régional, sélectionnez une valeur dans le menu déroulant. La région par défaut est
us-central1
.Pour obtenir la liste des régions dans lesquelles vous pouvez exécuter un job Dataflow, consultez la page Emplacements Dataflow.
- Dans le menu déroulant Modèle Dataflow, sélectionnez the JDBC to Pub/Sub template.
- Dans les champs fournis, saisissez vos valeurs de paramètres.
- Cliquez sur Run Job (Exécuter la tâche).
gcloud
Dans le shell ou le terminal, exécutez le modèle :
gcloud dataflow jobs run JOB_NAME \ --gcs-location gs://dataflow-templates-REGION_NAME/VERSION/flex/Jdbc_to_PubSub \ --region REGION_NAME \ --parameters \ driverClassName=DRIVER_CLASS_NAME,\ connectionURL=JDBC_CONNECTION_URL,\ driverJars=DRIVER_PATHS,\ username=CONNECTION_USERNAME,\ password=CONNECTION_PASSWORD,\ connectionProperties=CONNECTION_PROPERTIES,\ query=SOURCE_SQL_QUERY,\ outputTopic=OUTPUT_TOPIC,\ KMSEncryptionKey=KMS_ENCRYPTION_KEY
Remplacez les éléments suivants :
JOB_NAME
: nom de job unique de votre choixVERSION
: version du modèle que vous souhaitez utiliserVous pouvez utiliser les valeurs suivantes :
latest
pour utiliser la dernière version du modèle, disponible dans le dossier parent non daté du bucket gs://dataflow-templates-REGION_NAME/latest/- Le nom de la version, par exemple
2023-09-12-00_RC00
, pour utiliser une version spécifique du modèle, qui est imbriqué dans le dossier parent daté respectif dans le bucket : gs://dataflow-templates-REGION_NAME/
REGION_NAME
: région dans laquelle vous souhaitez déployer votre job Dataflow, par exempleus-central1
DRIVER_CLASS_NAME
: nom de la classe du piloteJDBC_CONNECTION_URL
: URL de connexion JDBCDRIVER_PATHS
: chemin(s) d'accès Cloud Storage séparé(s) par des virgules vers le(s) pilote(s) JDBCCONNECTION_USERNAME
: nom d'utilisateur de la connexion JDBCCONNECTION_PASSWORD
: mot de passe de la connexion JDBCCONNECTION_PROPERTIES
: les propriétés de connexion JDBC, le cas échéantSOURCE_SQL_QUERY
: requête SQL à exécuter sur la base de données sourceOUTPUT_TOPIC
: sujet Pub/Sub dans lequel publierKMS_ENCRYPTION_KEY
: clé de chiffrement Cloud KMS
API
Pour exécuter le modèle à l'aide de l'API REST, envoyez une requête HTTP POST. Pour en savoir plus sur l'API, ses autorisations et leurs champs d'application, consultez la section projects.templates.launch
.
POST https://dataflow.googleapis.com/v1b3/projects/PROJECT_ID/locations/LOCATION/flexTemplates:launch { "launchParameter": { "jobName": "JOB_NAME", "containerSpecGcsPath": "gs://dataflow-templates-LOCATION/VERSION/flex/Jdbc_to_PubSub" "parameters": { "driverClassName": "DRIVER_CLASS_NAME", "connectionURL": "JDBC_CONNECTION_URL", "driverJars": "DRIVER_PATHS", "username": "CONNECTION_USERNAME", "password": "CONNECTION_PASSWORD", "connectionProperties": "CONNECTION_PROPERTIES", "query": "SOURCE_SQL_QUERY", "outputTopic": "OUTPUT_TOPIC", "KMSEncryptionKey":"KMS_ENCRYPTION_KEY" }, "environment": { "zone": "us-central1-f" } } }
Remplacez les éléments suivants :
PROJECT_ID
: ID du projet Google Cloud dans lequel vous souhaitez exécuter le job DataflowJOB_NAME
: nom de job unique de votre choixVERSION
: version du modèle que vous souhaitez utiliserVous pouvez utiliser les valeurs suivantes :
latest
pour utiliser la dernière version du modèle, disponible dans le dossier parent non daté du bucket gs://dataflow-templates-REGION_NAME/latest/- Le nom de la version, par exemple
2023-09-12-00_RC00
, pour utiliser une version spécifique du modèle, qui est imbriqué dans le dossier parent daté respectif dans le bucket : gs://dataflow-templates-REGION_NAME/
LOCATION
: région dans laquelle vous souhaitez déployer votre job Dataflow, par exempleus-central1
DRIVER_CLASS_NAME
: nom de la classe du piloteJDBC_CONNECTION_URL
: URL de connexion JDBCDRIVER_PATHS
: chemin(s) d'accès Cloud Storage séparé(s) par des virgules vers le(s) pilote(s) JDBCCONNECTION_USERNAME
: nom d'utilisateur de la connexion JDBCCONNECTION_PASSWORD
: mot de passe de la connexion JDBCCONNECTION_PROPERTIES
: les propriétés de connexion JDBC, le cas échéantSOURCE_SQL_QUERY
: requête SQL à exécuter sur la base de données sourceOUTPUT_TOPIC
: sujet Pub/Sub dans lequel publierKMS_ENCRYPTION_KEY
: clé de chiffrement Cloud KMS
Étapes suivantes
- Apprenez-en plus sur les modèles Dataflow.
- Consultez la liste des modèles fournis par Google.