Créer un sujet d'importation Amazon Managed Streaming for Apache Kafka

Un sujet d'importation Amazon Managed Streaming for Apache Kafka (Amazon MSK) vous permet d'ingérer en continu des données à partir d'Amazon MSK en tant que source externe et dans Pub/Sub. Vous pouvez ensuite diffuser les données dans l'une des destinations compatibles avec Pub/Sub.

Ce document explique comment créer et gérer des sujets d'importation Amazon MSK. Pour créer un sujet standard, consultez Créer un sujet standard.

Pour en savoir plus sur les sujets d'importation, consultez la page À propos des sujets d'importation.

Avant de commencer

Rôles et autorisations requis

Pour obtenir les autorisations nécessaires pour créer et gérer des sujets d'importation Amazon MSK, demandez à votre administrateur de vous accorder le rôle IAM Éditeur Pub/Sub (roles/pubsub.editor) sur votre sujet ou votre projet. Pour en savoir plus sur l'attribution de rôles, consultez la page Gérer l'accès aux projets, aux dossiers et aux organisations.

Ce rôle prédéfini contient les autorisations requises pour créer et gérer des sujets d'importation Amazon MSK. Pour connaître les autorisations exactes requises, développez la section Autorisations requises :

Autorisations requises

Vous devez disposer des autorisations suivantes pour créer et gérer des sujets d'importation Amazon MSK:

  • Créez un sujet d'importation : pubsub.topics.create
  • Supprimer un thème d'importation : pubsub.topics.delete
  • Obtenir un sujet d'importation : pubsub.topics.get
  • Lister un sujet d'importation : pubsub.topics.list
  • Publier dans un sujet d'importation : pubsub.topics.publish
  • Mettre à jour un sujet d'importation : pubsub.topics.update
  • Obtenez la stratégie IAM pour un sujet d'importation : pubsub.topics.getIamPolicy
  • Configurez la stratégie IAM pour un sujet d'importation : pubsub.topics.setIamPolicy

Vous pouvez également obtenir ces autorisations avec des rôles personnalisés ou d'autres rôles prédéfinis.

Vous pouvez configurer le contrôle des accès au niveau du projet et au niveau de ressources individuelles.

Configurer une identité fédérée pour accéder à Amazon MSK

La fédération d'identité de charge de travail permet aux services Google Cloud d'accéder aux charges de travail exécutées en dehors de Google Cloud. Avec la fédération d'identités, vous n'avez pas besoin de gérer ni de transmettre des identifiants à Google Cloud pour accéder à vos ressources dans d'autres clouds. À la place, vous pouvez utiliser les identités des charges de travail elles-mêmes pour vous authentifier auprès de Google Cloud et accéder aux ressources.

Créer un compte de service dans Google Cloud

Il s'agit d'une étape facultative. Si vous disposez déjà d'un compte de service, vous pouvez l'utiliser dans cette procédure au lieu d'en créer un autre. Si vous utilisez un compte de service existant, consultez la section Enregistrer l'ID unique du compte de service pour l'étape suivante.

Pour les sujets d'importation Amazon MSK, Pub/Sub utilise le compte de service comme identité pour accéder aux ressources d'AWS.

Pour en savoir plus sur la création d'un compte de service, y compris sur les conditions préalables, les rôles et autorisations requis, ainsi que les consignes de dénomination, consultez la section Créer des comptes de service. Une fois le compte de service créé, vous devrez peut-être attendre au moins 60 secondes avant de l'utiliser. Ce comportement se produit car les opérations de lecture sont cohérentes à terme. Il peut s'écouler un certain temps avant que le nouveau compte de service devienne visible.

Enregistrer l'ID unique du compte de service

Vous avez besoin d'un ID unique de compte de service pour configurer un rôle dans la console AWS.

  1. Dans la console Google Cloud, accédez à la page d'informations sur le compte de service.

    Accéder au compte de service

  2. Cliquez sur le compte de service que vous venez de créer ou celui que vous prévoyez d'utiliser.

  3. Sur la page Détails du compte de service, notez le numéro d'ID unique.

    Vous avez besoin de cet ID dans le workflow pour configurer un rôle dans la console AWS.

Ajouter le rôle Créateur de jetons du compte de service au compte de service Pub/Sub

Le rôle Créateur de jetons du compte de service (roles/iam.serviceAccountTokenCreator) permet aux comptes principaux de créer des identifiants éphémères pour un compte de service. Ces jetons ou identifiants sont utilisés pour usurper l'identité du compte de service.

Pour plus d'informations sur l'emprunt de l'identité d'un compte de service, consultez la page Emprunter l'identité d'un compte de service.

Vous pouvez également ajouter le rôle Éditeur Pub/Sub (roles/pubsub.publisher) au cours de cette procédure. Pour en savoir plus sur ce rôle et pourquoi vous l'ajoutez, consultez Ajouter le rôle d'éditeur Pub/Sub au compte de service Pub/Sub.

  1. Dans la console Google Cloud, accédez à la page IAM.

    Accéder à IAM

  2. Cochez la case Inclure les attributions de rôles fournies par Google.

  3. Recherchez le compte de service au format service-{PROJECT_NUMBER}@gcp-sa-pubsub.iam.gserviceaccount.com.

  4. Pour ce compte de service, cliquez sur le bouton Modifier le compte principal.

  5. Si nécessaire, cliquez sur Ajouter un autre rôle.

  6. Recherchez et cliquez sur le rôle Créateur de jetons du compte de service (roles/iam.serviceAccountTokenCreator).

  7. Cliquez sur Enregistrer.

Créer une stratégie dans AWS

Vous avez besoin d'une stratégie dans AWS pour permettre à Pub/Sub de s'authentifier auprès d'AWS afin qu'il puisse ingérer des données à partir d'Amazon MSK.

  • Pour découvrir d'autres méthodes et obtenir des informations sur la création d'une stratégie dans AWS, consultez la section Créer des stratégies IAM.

Pour créer une règle dans AWS, procédez comme suit:

  1. Connectez-vous à la console de gestion AWS et ouvrez la console IAM.

  2. Dans le volet de navigation de la console IAM, cliquez sur Gestion des accès > Règles.

  3. Cliquez sur Créer une règle.

  4. Pour Cliquer sur un service, cliquez sur MSK.

  5. Pour Action autorisée,cliquez sur Lire > GetBootstrapBrokers.

    Cette action autorise l'obtention des brokers de démarrage que Pub/Sub utilise pour se connecter au cluster MSK.

  6. Cliquez sur Ajouter des autorisations.

  7. Pour Sélectionner un service, cliquez sur API Apache Kafka pour MSK.

  8. Pour Action autorisée, sélectionnez les options suivantes:

    • List > DescribeTopic

      Cette action autorise le sujet d'ingestion Pub/Sub à obtenir des informations sur le sujet Kafka Amazon MSK.

    • Lire > ReadData

      Cette action autorise la lecture des données du sujet Kafka Amazon MSK.

    • Écrire > Se connecter

      Cette action autorise la connexion et l'authentification au cluster Kafka Amazon MSK.

  9. Pour Ressources, spécifiez l'ARN du cluster (si vous souhaitez limiter la stratégie à des clusters spécifiques, ce qui est recommandé).

  10. Cliquez sur Ajouter des autorisations.

  11. Pour Sélectionner un service, cliquez sur STS.

  12. Pour Action autorisée, cliquez sur Écrire > AssumeRoleWithWebIdentity.

    Cette action autorise l'obtention d'un ensemble d'identifiants de sécurité temporaires pour que Pub/Sub s'authentifie auprès d'Amazon MSK à l'aide de la fédération d'identité.

  13. Cliquez sur Suivant.

  14. Saisissez un nom et une description pour la règle.

  15. Cliquez sur Créer une règle.

Créer un rôle dans AWS à l'aide d'une stratégie de confiance personnalisée

Vous devez créer un rôle dans AWS pour que Pub/Sub puisse s'authentifier auprès d'AWS afin d'ingérer des données à partir d'Amazon MSK.

  1. Connectez-vous à la console de gestion AWS et ouvrez la console IAM.

  2. Dans le volet de navigation de la console IAM, cliquez sur Roles (Rôles).

  3. Cliquez sur Créer un rôle.

  4. Dans le champ Sélectionner une entité de confiance, cliquez sur Règle d'approbation personnalisée.

  5. Dans la section Règle de confiance personnalisée, saisissez ou collez ce qui suit:

    {
  "Version": "2012-10-17",
  "Statement": [
    {
     "Effect": "Allow",
     "Principal": {
        "Federated": "accounts.google.com"
     },
     "Action": "sts:AssumeRoleWithWebIdentity",
     "Condition": {
         "StringEquals": {
           "accounts.google.com:sub": "<SERVICE_ACCOUNT_UNIQUE_ID>"
         }
      }
    }
  ]
}

    Remplacez <SERVICE_ACCOUNT_UNIQUE_ID> par l'ID unique du compte de service que vous avez enregistré dans Enregistrer l'ID unique du compte de service.

  6. Cliquez sur Suivant.

  7. Pour Ajouter des autorisations, recherchez et cliquez sur la stratégie personnalisée que vous venez de créer.

  8. Cliquez sur Suivant.

  9. Saisissez un nom et une description du rôle.

  10. Cliquez sur Créer un rôle.

Ajouter le rôle d'éditeur Pub/Sub au principal Pub/Sub

Pour activer la publication, vous devez attribuer un rôle d'éditeur au compte de service Pub/Sub afin que Pub/Sub puisse publier sur le sujet d'importation Amazon MSK.

Activer la publication à partir de tous les thèmes

Utilisez cette méthode si vous n'avez pas créé de sujets d'importation Amazon MSK.

  1. Dans la console Google Cloud, accédez à la page IAM.

    Accéder à IAM

  2. Cochez la case Inclure les attributions de rôles fournies par Google.

  3. Recherchez le compte de service au format service-{PROJECT_NUMBER}@gcp-sa-pubsub.iam.gserviceaccount.com.

  4. Pour ce compte de service, cliquez sur le bouton Modifier le compte principal.

  5. Si nécessaire, cliquez sur Ajouter un autre rôle.

  6. Recherchez et cliquez sur le rôle Éditeur Pub/Sub (roles/pubsub.publisher).

  7. Cliquez sur Enregistrer.

Activer la publication à partir d'un seul sujet

N'utilisez cette méthode que si le sujet d'importation Amazon MSK existe déjà.

  1. In the Google Cloud console, activate Cloud Shell.

    Activate Cloud Shell

    At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.

  2. Exécutez la commande gcloud pubsub topics add-iam-policy-binding :

    gcloud pubsub topics add-iam-policy-binding TOPIC_ID \
   --member="serviceAccount:service-PROJECT_NUMBER@gcp-sa-pubsub.iam.gserviceaccount.com" \
   --role="roles/pubsub.publisher"

    Remplacez les éléments suivants :

    • TOPIC_ID: ID du sujet de l'importation Amazon MSK.

    • PROJECT_NUMBER : Numéro du projet Pour afficher le numéro de projet, consultez Identifier des projets.

Ajouter le rôle Utilisateur du compte de service au compte de service

Le rôle Utilisateur du compte de service (roles/iam.serviceAccountUser) inclut l'autorisation iam.serviceAccounts.actAs, qui permet à un compte principal d'associer un compte de service aux paramètres d'ingestion du sujet d'importation Amazon MSK et d'utiliser ce compte de service pour l'identité fédérée.

  1. Dans la console Google Cloud, accédez à la page IAM.

    Accéder à IAM

  2. Pour le compte principal qui émet les appels de création ou de mise à jour de sujets, cliquez sur le bouton Modifier le compte principal.

  3. Si nécessaire, cliquez sur Ajouter un autre rôle.

  4. Recherchez et cliquez sur Rôle Utilisateur du compte de service (roles/iam.serviceAccountUser).

  5. Cliquez sur Enregistrer.

Utiliser des sujets d'importation Amazon MSK

Vous pouvez créer un sujet d'importation ou modifier un sujet existant.

Remarques

  • Créer le sujet et l'abonnement séparément, même en succession rapide, peut entraîner une perte de données. Il existe une courte période pendant laquelle le sujet existe sans abonnement. Si des données sont envoyées au sujet pendant cette période, elles sont perdues. En créant d'abord le sujet, puis l'abonnement, puis en convertissant le sujet en sujet d'importation, vous vous assurez qu'aucun message n'est manqué pendant le processus d'importation.

  • Si vous devez recréer le sujet Kafka d'un sujet d'importation existant portant le même nom, vous ne pouvez pas simplement supprimer le sujet Kafka et le recréer. Cette action peut invalider la gestion des décalages de Pub/Sub, ce qui peut entraîner une perte de données. Pour limiter ce problème, procédez comme suit:

    • Supprimez le sujet d'importation Pub/Sub.
    • Supprimez le sujet Kafka.
    • Créez le sujet Kafka.
    • Créez le sujet d'importation Pub/Sub.

  • Les données d'un sujet Kafka Amazon MSK sont toujours lues à partir du décalage le plus ancien.

Créer des sujets d'importation Amazon MSK

Pour en savoir plus sur les propriétés associées à un sujet, consultez la section Propriétés d'un sujet.

Assurez-vous d'avoir effectué les procédures suivantes:

Pour créer un sujet d'importation Amazon MSK, procédez comme suit:

Console

  1. Dans la console Google Cloud, accédez à la page Topics (Sujets).

    Accéder aux sujets

  2. Cliquez sur Create topic (Créer un sujet).

  3. Dans le champ ID du sujet, saisissez un ID pour votre sujet d'importation Amazon MSK. Pour en savoir plus sur l'attribution de noms aux sujets, consultez les consignes d'attribution de noms.

  4. Sélectionnez Ajouter un abonnement par défaut.

  5. Sélectionnez Activer l'ingestion.

  6. Pour la source d'ingestion, sélectionnez Amazon MSK.

  7. Saisissez les informations suivantes :

    • ARN du cluster: ARN d'Amazon MSK que vous insérez dans Pub/Sub. Le format de l'ARN est le suivant: arn:aws:kafka:${Region}:${Account}:cluster/${ClusterName}/${ClusterId}.

    • Topic (Sujet) : nom du sujet Kafka Amazon MSK que vous insérez dans Pub/Sub.

    • ARN du rôle AWS: ARN du rôle AWS. Le format de l'ARN du rôle est le suivant: arn:aws:iam:${Account}:role/${RoleName}.

    • Compte de service: compte de service que vous avez créé dans Créer un compte de service dans Google Cloud.

  8. Cliquez sur Create topic (Créer un sujet).

gcloud

  1. In the Google Cloud console, activate Cloud Shell.

    Activate Cloud Shell

    At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.

  2. Exécutez la commande gcloud pubsub topics create :

    gcloud pubsub topics create TOPIC_ID \
     --aws-msk-ingestion-cluster-arn MSK_CLUSTER_ARN \
     --aws-msk-ingestion-topic MSK_TOPIC \
     --aws-msk-ingestion-aws-role-arn MSK_ROLE_ARN \
     --aws-msk-ingestion-service-account PUBSUB_SERVICE_ACCOUNT

    Remplacez les éléments suivants :

    • TOPIC_ID: nom ou ID de votre sujet Pub/Sub.
    • MSK_CLUSTER_ARN: ARN du cluster Amazon MSK que vous insérez dans Pub/Sub. Le format de l'ARN est le suivant : arn:aws:kafka:${Region}:${Account}:cluster/${ClusterName}/${ClusterId}.
    • MSK_TOPIC: nom du sujet Kafka Amazon MSK que vous insérez dans Pub/Sub.
    • MSK_ROLE_ARN: ARN du rôle AWS. Le format de l'ARN du rôle est le suivant: arn:aws:iam:${Account}:role/${RoleName}.
    • PUBSUB_SERVICE_ACCOUNT: compte de service que vous avez créé dans Créer un compte de service dans Google Cloud.

Go

Avant d'essayer cet exemple, suivez les instructions de configuration pour Go du guide de démarrage rapide de Pub/Sub : utiliser les bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence sur l'API Pub/Sub Go.

Pour vous authentifier auprès de Pub/Sub, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local. 

import (
	"context"
	"fmt"
	"io"

	"cloud.google.com/go/pubsub"
)

func createTopicWithAWSMSKIngestion(w io.Writer, projectID, topicID, clusterARN, mskTopic, awsRoleARN, gcpSA string) error {
	// projectID := "my-project-id"
	// topicID := "my-topic"

	// // AWS MSK ingestion settings.
	// clusterARN := "cluster-arn"
	// mskTopic := "msk-topic"
	// awsRoleARN := "aws-role-arn"
	// gcpSA := "gcp-service-account"

	ctx := context.Background()
	client, err := pubsub.NewClient(ctx, projectID)
	if err != nil {
		return fmt.Errorf("pubsub.NewClient: %w", err)
	}
	defer client.Close()

	cfg := &pubsub.TopicConfig{
		IngestionDataSourceSettings: &pubsub.IngestionDataSourceSettings{
			Source: &pubsub.IngestionDataSourceAmazonMSK{
				ClusterARN:        clusterARN,
				Topic:             mskTopic,
				AWSRoleARN:        awsRoleARN,
				GCPServiceAccount: gcpSA,
			},
		},
	}
	t, err := client.CreateTopicWithConfig(ctx, topicID, cfg)
	if err != nil {
		return fmt.Errorf("CreateTopic: %w", err)
	}
	fmt.Fprintf(w, "Created topic with AWS MSK ingestion settings: %v\n", t)
	return nil
}

Java

Avant d'essayer cet exemple, suivez les instructions de configuration pour Java du guide de démarrage rapide de Pub/Sub : utiliser les bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence sur l'API Pub/Sub Java.

Pour vous authentifier auprès de Pub/Sub, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local. 


import com.google.cloud.pubsub.v1.TopicAdminClient;
import com.google.pubsub.v1.IngestionDataSourceSettings;
import com.google.pubsub.v1.Topic;
import com.google.pubsub.v1.TopicName;
import java.io.IOException;

public class CreateTopicWithAwsMskIngestionExample {
  public static void main(String... args) throws Exception {
    // TODO(developer): Replace these variables before running the sample.
    String projectId = "your-project-id";
    String topicId = "your-topic-id";
    // AWS MSK ingestion settings.
    String clusterArn = "cluster-arn";
    String mskTopic = "msk-topic";
    String awsRoleArn = "aws-role-arn";
    String gcpServiceAccount = "gcp-service-account";

    createTopicWithAwsMskIngestionExample(
        projectId, topicId, clusterArn, mskTopic, awsRoleArn, gcpServiceAccount);
  }

  public static void createTopicWithAwsMskIngestionExample(
      String projectId,
      String topicId,
      String clusterArn,
      String mskTopic,
      String awsRoleArn,
      String gcpServiceAccount)
      throws IOException {
    try (TopicAdminClient topicAdminClient = TopicAdminClient.create()) {
      TopicName topicName = TopicName.of(projectId, topicId);

      IngestionDataSourceSettings.AwsMsk awsMsk =
          IngestionDataSourceSettings.AwsMsk.newBuilder()
              .setClusterArn(clusterArn)
              .setTopic(mskTopic)
              .setAwsRoleArn(awsRoleArn)
              .setGcpServiceAccount(gcpServiceAccount)
              .build();
      IngestionDataSourceSettings ingestionDataSourceSettings =
          IngestionDataSourceSettings.newBuilder().setAwsMsk(awsMsk).build();

      Topic topic =
          topicAdminClient.createTopic(
              Topic.newBuilder()
                  .setName(topicName.toString())
                  .setIngestionDataSourceSettings(ingestionDataSourceSettings)
                  .build());

      System.out.println("Created topic with AWS MSK ingestion settings: " + topic.getAllFields());
    }
  }
}

Node.js

Avant d'essayer cet exemple, suivez les instructions de configuration pour Node.js du guide de démarrage rapide de Pub/Sub : utiliser les bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence sur l'API Pub/Sub Node.js.

Pour vous authentifier auprès de Pub/Sub, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local. 

/**
 * TODO(developer): Uncomment these variables before running the sample.
 */
// const topicNameOrId = 'YOUR_TOPIC_NAME_OR_ID';
// const clusterArn = 'arn:aws:kafka:...';
// const mskTopic = 'YOUR_MSK_TOPIC';
// const roleArn = 'arn:aws:iam:...';
// const gcpServiceAccount = 'ingestion-account@...';

// Imports the Google Cloud client library
const {PubSub} = require('@google-cloud/pubsub');

// Creates a client; cache this for further use
const pubSubClient = new PubSub();

async function createTopicWithAwsMskIngestion(
  topicNameOrId,
  clusterArn,
  mskTopic,
  awsRoleArn,
  gcpServiceAccount
) {
  // Creates a new topic with AWS MSK ingestion.
  await pubSubClient.createTopic({
    name: topicNameOrId,
    ingestionDataSourceSettings: {
      awsMsk: {
        clusterArn,
        topic: mskTopic,
        awsRoleArn,
        gcpServiceAccount,
      },
    },
  });
  console.log(`Topic ${topicNameOrId} created with AWS MSK ingestion.`);
}

Python

Avant d'essayer cet exemple, suivez les instructions de configuration pour Python du guide de démarrage rapide de Pub/Sub : utiliser les bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence sur l'API Pub/Sub Python.

Pour vous authentifier auprès de Pub/Sub, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local. 

from google.cloud import pubsub_v1
from google.pubsub_v1.types import Topic
from google.pubsub_v1.types import IngestionDataSourceSettings

# TODO(developer)
# project_id = "your-project-id"
# topic_id = "your-topic-id"
# cluster_arn = "your-cluster-arn"
# msk_topic = "your-msk-topic"
# aws_role_arn = "your-aws-role-arn"
# gcp_service_account = "your-gcp-service-account"

publisher = pubsub_v1.PublisherClient()
topic_path = publisher.topic_path(project_id, topic_id)

request = Topic(
    name=topic_path,
    ingestion_data_source_settings=IngestionDataSourceSettings(
        aws_msk=IngestionDataSourceSettings.AwsMsk(
            cluster_arn=cluster_arn,
            topic=msk_topic,
            aws_role_arn=aws_role_arn,
            gcp_service_account=gcp_service_account,
        )
    ),
)

topic = publisher.create_topic(request=request)

print(f"Created topic: {topic.name} with AWS MSK Ingestion Settings")

C++

Avant d'essayer cet exemple, suivez les instructions de configuration pour C++ du guide de démarrage rapide de Pub/Sub : utiliser les bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence sur l'API Pub/Sub C++.

Pour vous authentifier auprès de Pub/Sub, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local. 

namespace pubsub = ::google::cloud::pubsub;
namespace pubsub_admin = ::google::cloud::pubsub_admin;
[](pubsub_admin::TopicAdminClient client, std::string project_id,
   std::string topic_id, std::string const& cluster_arn,
   std::string const& msk_topic, std::string const& aws_role_arn,
   std::string const& gcp_service_account) {
  google::pubsub::v1::Topic request;
  request.set_name(
      pubsub::Topic(std::move(project_id), std::move(topic_id)).FullName());
  auto* aws_msk =
      request.mutable_ingestion_data_source_settings()->mutable_aws_msk();
  aws_msk->set_cluster_arn(cluster_arn);
  aws_msk->set_topic(msk_topic);
  aws_msk->set_aws_role_arn(aws_role_arn);
  aws_msk->set_gcp_service_account(gcp_service_account);

  auto topic = client.CreateTopic(request);
  // Note that kAlreadyExists is a possible error when the library retries.
  if (topic.status().code() == google::cloud::StatusCode::kAlreadyExists) {
    std::cout << "The topic already exists\n";
    return;
  }
  if (!topic) throw std::move(topic).status();

  std::cout << "The topic was successfully created: " << topic->DebugString()
            << "\n";
}

Node.js (TypeScript)

Avant d'essayer cet exemple, suivez les instructions de configuration de Node.js décrites dans le guide de démarrage rapide de Pub/Sub : utiliser des bibliothèques clientes. Pour en savoir plus, consultez la documentation de référence sur l'API Pub/Sub pour Node.js.

Pour vous authentifier auprès de Pub/Sub, configurez le service Identifiants par défaut de l'application. Pour en savoir plus, consultez Configurer l'authentification pour un environnement de développement local. 

/**
 * TODO(developer): Uncomment these variables before running the sample.
 */
// const topicNameOrId = 'YOUR_TOPIC_NAME_OR_ID';
// const clusterArn = 'arn:aws:kafka:...';
// const mskTopic = 'YOUR_MSK_TOPIC';
// const roleArn = 'arn:aws:iam:...';
// const gcpServiceAccount = 'ingestion-account@...';

// Imports the Google Cloud client library
import {PubSub} from '@google-cloud/pubsub';

// Creates a client; cache this for further use
const pubSubClient = new PubSub();

async function createTopicWithAwsMskIngestion(
  topicNameOrId: string,
  clusterArn: string,
  mskTopic: string,
  awsRoleArn: string,
  gcpServiceAccount: string
) {
  // Creates a new topic with AWS MSK ingestion.
  await pubSubClient.createTopic({
    name: topicNameOrId,
    ingestionDataSourceSettings: {
      awsMsk: {
        clusterArn,
        topic: mskTopic,
        awsRoleArn,
        gcpServiceAccount,
      },
    },
  });
  console.log(`Topic ${topicNameOrId} created with AWS MSK ingestion.`);
}

Pour en savoir plus sur les ARN, consultez les pages Noms de ressource Amazon (ARN) et Identifiants IAM.

Si vous rencontrez des problèmes, consultez Dépannage d'un sujet d'importation Amazon MSK.

Modifier les sujets d'importation Amazon MSK

Pour modifier les paramètres de la source de données d'ingestion d'un sujet d'importation Amazon MSK, procédez comme suit:

Console

  1. Dans la console Google Cloud, accédez à la page Topics (Sujets).

    Accéder aux sujets

  2. Cliquez sur le sujet d'importation Amazon MSK.

  3. Sur la page des détails de l'article, cliquez sur Modifier.

  4. Modifiez les champs que vous souhaitez modifier.

  5. Cliquez sur Mettre à jour.

gcloud

  1. In the Google Cloud console, activate Cloud Shell.

    Activate Cloud Shell

    At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.

  2. Exécutez la commande gcloud pubsub topics update avec tous les indicateurs mentionnés dans l'exemple suivant:

    gcloud pubsub topics update TOPIC_ID \
    --aws-msk-ingestion-cluster-arn MSK_CLUSTER_ARN \
    --aws-msk-ingestion-topic MSK_TOPIC \
    --aws-msk-ingestion-aws-role-arn MSK_ROLE_ARN \
    --aws-msk-ingestion-service-account PUBSUB_SERVICE_ACCOUNT

    Remplacez les éléments suivants :

    • TOPIC_ID: nom ou ID de votre sujet Pub/Sub.
    • MSK_CLUSTER_ARN: ARN du cluster Amazon MSK que vous insérez dans Pub/Sub. Le format de l'ARN est le suivant: arn:aws:kafka:${Region}:${Account}:cluster/${ClusterName}/${ClusterId}.
    • MSK_TOPIC: nom du sujet Kafka Amazon MSK que vous insérez dans Pub/Sub.
    • MSK_ROLE_ARN: ARN du rôle AWS. Le format ARN du rôle est le suivant: arn:aws:iam:${Account}:role/${RoleName}.
    • PUBSUB_SERVICE_ACCOUNT: compte de service que vous avez créé dans Créer un compte de service dans Google Cloud.

Quotas et limites

Le débit de l'éditeur pour les sujets d'importation est limité par le quota de publication du sujet. Pour en savoir plus, consultez la page Quotas et limites de Pub/Sub.

Étape suivante

Apache Kafka® est une marque déposée d'Apache Software Foundation ou de ses filiales aux États-Unis et/ou dans d'autres pays.