Le modèle Pub/Sub vers Redis est un pipeline de streaming qui lit les messages d'un abonnement Pub/Sub et écrit leur charge utile dans Redis. Le cas d'utilisation le plus courant de ce modèle consiste à exporter les journaux vers Redis Enterprise pour une analyse avancée des journaux en temps réel basée sur la recherche.
- Avant d'écrire dans Redis, vous pouvez appliquer une fonction JavaScript définie par l'utilisateur à la charge utile du message.
- Tous les messages dont le traitement échoue sont transférés vers un sujet Pub/Sub non traité en vue d'opérations de dépannage supplémentaires et d'un nouveau traitement.
- Pour renforcer la sécurité, activez une connexion SSL lors de la configuration de la connexion à votre point de terminaison de la base de données. Ce modèle n'est pas compatible avec le protocole TLS mutuel.
Conditions requises pour ce pipeline
- L'abonnement Pub/Sub source doit exister avant l'exécution du pipeline.
- Le sujet Pub/Sub non traité doit exister avant l'exécution du pipeline.
- Le point de terminaison de la base de données Redis doit être accessible à partir du sous-réseau des nœuds de calcul Dataflow.
Paramètres de modèle
Paramètres obligatoires
- inputSubscription : abonnement Pub/Sub à partir duquel lire l'entrée, au format "projects/your-project-id/subscriptions/your-subscription-name" (exemple : projects/your-project-id/subscriptions/your-subscription-name).
- redisHost : hôte de la base de données Redis. (par exemple, your.cloud.db.redislabs.com). La valeur par défaut est 127.0.0.1.
- redisPort : port de la base de données Redis. (Exemple : 12345). La valeur par défaut est 6379.
- redisPassword : mot de passe de la base de données Redis. La valeur par défaut est vide.
Paramètres facultatifs
- sslEnabled : paramètre SSL de la base de données Redis. La valeur par défaut est "false".
- redisSinkType : les récepteurs Redis compatibles sont STRING_SINK, HASH_SINK, STREAMS_SINK et LOGGING_SINK (exemple: STRING_SINK). La valeur par défaut est STRING_SINK.
- connectionTimeout : le délai d'expiration de la connexion Redis en millisecondes. (Exemple : 2 000). La valeur par défaut est 2 000.
- ttl : délai d'expiration de la clé en secondes (ttl, la valeur par défaut pour HASH_SINK est -1, c'est-à-dire sans délai d'expiration).
- javascriptTextTransformGcsPath : modèle de chemin d'accès Cloud Storage pour le code JavaScript contenant vos fonctions définies par l'utilisateur. (par exemple : gs://votre-bucket/votre-fonction.js).
- javascriptTextTransformFunctionName : nom de la fonction à appeler à partir de votre fichier JavaScript. N'utilisez que des lettres, des chiffres et des traits de soulignement. (exemple : "transform" ou "transform_udf1").
- javascriptTextTransformReloadIntervalMinutes : définissez l'intervalle que les nœuds de calcul peuvent vérifier pour les modifications des UDF JavaScript pour actualiser les fichiers. La valeur par défaut est 0.
Fonction définie par l'utilisateur
Vous pouvez éventuellement étendre ce modèle en écrivant une fonction définie par l'utilisateur (UDF). Le modèle appelle l'UDF pour chaque élément d'entrée. Les charges utiles des éléments sont sérialisées sous forme de chaînes JSON. Pour en savoir plus, consultez la page Créer des fonctions définies par l'utilisateur pour les modèles Dataflow.
Spécification de la fonction
La spécification de l'UDF se présente comme suit :
- Entrée : chaîne JSON
- Résultat : chaîne ou objet JSON
Exécuter le modèle
Console
- Accédez à la page Dataflow Créer un job à partir d'un modèle. Accéder à la page Créer un job à partir d'un modèle
- Dans le champ Nom du job, saisissez un nom de job unique.
- Facultatif : pour Point de terminaison régional, sélectionnez une valeur dans le menu déroulant. La région par défaut est
us-central1
.Pour obtenir la liste des régions dans lesquelles vous pouvez exécuter un job Dataflow, consultez la page Emplacements Dataflow.
- Dans le menu déroulant Modèle Dataflow, sélectionnez the Pub/Sub to Redis template.
- Dans les champs fournis, saisissez vos valeurs de paramètres.
- Cliquez sur Run Job (Exécuter la tâche).
gcloud
Dans le shell ou le terminal, exécutez le modèle :
gcloud dataflow flex-template run JOB_NAME \ --template-file-gcs-location=gs://dataflow-templates-REGION_NAME/VERSION/flex/Cloud_PubSub_to_Redis \ --project=PROJECT_ID \ --region=REGION_NAME \ --parameters \ inputSubscription=INPUT_SUBSCRIPTION,\ redisHost=REDIS_HOST,\ redisPort=REDIS_PORT,\ redisPassword=REDIS_PASSWORD,\
Remplacez les éléments suivants :
JOB_NAME
: nom de job unique de votre choixVERSION
: version du modèle que vous souhaitez utiliserVous pouvez utiliser les valeurs suivantes :
latest
pour utiliser la dernière version du modèle, disponible dans le dossier parent non daté du bucket gs://dataflow-templates-REGION_NAME/latest/- Le nom de la version, par exemple
2023-09-12-00_RC00
, pour utiliser une version spécifique du modèle, qui est imbriqué dans le dossier parent daté respectif dans le bucket : gs://dataflow-templates-REGION_NAME/
REGION_NAME
: région dans laquelle vous souhaitez déployer votre job Dataflow, par exempleus-central1
INPUT_SUBSCRIPTION
: abonnement Pub/Sub en entréeREDIS_HOST
: hôte de la base de données RedisREDIS_PORT
: port de la base de données RedisREDIS_PASSWORD
: mot de passe de la base de données Redis
API
Pour exécuter le modèle à l'aide de l'API REST, envoyez une requête HTTP POST. Pour en savoir plus sur l'API, ses autorisations et leurs champs d'application, consultez la section projects.templates.launch
.
POST https://dataflow.googleapis.com/v1b3/projects/PROJECT_ID/locations/LOCATION/flexTemplates:launch { "launchParameter": { "jobName": "JOB_NAME", "parameters": { "inputSubscription": "INPUT_SUBSCRIPTION", "redisHost": "REDIS_HOST", "redisPort": "REDIS_PORT", "redisPassword": "REDIS_PASSWORD", }, "containerSpecGcsPath": "gs://dataflow-templates-LOCATION/VERSION/flex/Cloud_PubSub_to_Redis", "environment": { "maxWorkers": "10" } } }
Remplacez les éléments suivants :
PROJECT_ID
: ID du projet Google Cloud dans lequel vous souhaitez exécuter le job DataflowJOB_NAME
: nom de job unique de votre choixVERSION
: version du modèle que vous souhaitez utiliserVous pouvez utiliser les valeurs suivantes :
latest
pour utiliser la dernière version du modèle, disponible dans le dossier parent non daté du bucket gs://dataflow-templates-REGION_NAME/latest/- Le nom de la version, par exemple
2023-09-12-00_RC00
, pour utiliser une version spécifique du modèle, qui est imbriqué dans le dossier parent daté respectif dans le bucket : gs://dataflow-templates-REGION_NAME/
LOCATION
: région dans laquelle vous souhaitez déployer votre job Dataflow, par exempleus-central1
INPUT_SUBSCRIPTION
: abonnement Pub/Sub en entréeREDIS_HOST
: hôte de la base de données RedisREDIS_PORT
: port de la base de données RedisREDIS_PASSWORD
: mot de passe de la base de données Redis
Étapes suivantes
- Apprenez-en plus sur les modèles Dataflow.
- Consultez la liste des modèles fournis par Google.