Confluent Cloud 가져오기 주제 만들기

Confluent Cloud 가져오기 주제를 사용하면 Confluent Cloud 에서 외부 소스로 데이터를 지속적으로 수집하여 Pub/Sub으로 전송할 수 있습니다. 그런 다음 Pub/Sub에서 지원하는 대상으로 데이터를 스트리밍할 수 있습니다.

이 문서에서는 Confluent Cloud 가져오기 주제를 만들고 관리하는 방법을 보여줍니다. 표준 주제를 만들려면 표준 주제 만들기를 참고하세요.

가져오기 주제에 대한 자세한 내용은 가져오기 주제 정보를 참고하세요.

시작하기 전에

• Pub/Sub 게시 프로세스에 대해 자세히 알아봅니다.

• 다음을 포함하여 Confluent Cloud 가져오기 주제를 관리하는 데 필요한 역할 및 권한을 구성합니다.

  • Pub/Sub 서비스 계정에 Pub/Sub 게시자 역할 추가

  • 서비스 계정에 서비스 계정 사용자 역할 추가

• Google Cloud 가 외부 스트리밍 서비스에 액세스할 수 있도록 워크로드 아이덴티티 제휴를 설정합니다.

필수 역할 및 권한

Confluent Cloud 가져오기 주제를 만들고 관리하는 데 필요한 권한을 얻으려면 관리자에게 주제 또는 프로젝트에 대한 Pub/Sub 편집자 (roles/pubsub.editor) IAM 역할을 부여해 달라고 요청하세요. 역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.

이 사전 정의된 역할에는 Confluent Cloud 가져오기 주제를 만들고 관리하는 데 필요한 권한이 포함되어 있습니다. 필요한 정확한 권한을 보려면 필수 권한 섹션을 펼치세요.

필수 권한

Confluent Cloud 가져오기 주제를 만들고 관리하려면 다음 권한이 필요합니다.

• 가져오기 주제 만들기: pubsub.topics.create
• 가져오기 주제 삭제: pubsub.topics.delete
• 가져오기 주제 가져오기: pubsub.topics.get
• 가져오기 주제 나열: pubsub.topics.list
• 가져오기 주제에 게시: pubsub.topics.publish
• 가져오기 주제 업데이트: pubsub.topics.update
• 가져오기 주제의 IAM 정책 가져오기: pubsub.topics.getIamPolicy
• 가져오기 주제의 IAM 정책 구성: pubsub.topics.setIamPolicy

커스텀 역할이나 다른 사전 정의된 역할을 사용하여 이 권한을 부여받을 수도 있습니다.

프로젝트 수준 및 개별 리소스 수준에서 액세스 제어를 구성할 수 있습니다.

제휴 ID를 설정하여 Confluent Cloud에 액세스

워크로드 아이덴티티 제휴를 사용하면 Google Cloud 서비스가 Google Cloud외부에서 실행되는 워크로드에 액세스할 수 있습니다. ID 제휴를 사용하면 다른 클라우드의 리소스에 액세스하기 위해 사용자 인증 정보를 유지하거나 Google Cloud 에 전달할 필요가 없습니다. 대신 워크로드 자체의 ID를 사용하여 Google Cloud 에 인증하고 리소스에 액세스할 수 있습니다.

Google Cloud에서 서비스 계정 만들기

이 단계는 선택사항입니다. 이미 서비스 계정이 있는 경우 새 서비스 계정을 만드는 대신 이 절차에서 해당 계정을 사용할 수 있습니다. 기존 서비스 계정을 사용하는 경우 다음 단계를 위해 서비스 계정 고유 ID 기록으로 이동합니다.

Confluent Cloud 가져오기 주제의 경우 Pub/Sub는 서비스 계정을 ID로 사용하여 Confluent Cloud의 리소스에 액세스합니다.

기본 요건, 필수 역할 및 권한, 이름 지정 가이드라인을 포함하여 서비스 계정 만들기에 대한 자세한 내용은 서비스 계정 만들기를 참조하세요. 서비스 계정을 만든 후 60초 이상 기다려야 서비스 계정을 사용할 수 있습니다. 이는 읽기 작업이 eventual consistency를 가지기 때문에 발생합니다. 새 서비스 계정이 표시되는 데 다소 시간이 걸릴 수 있습니다.

서비스 계정 고유 ID 기록

Confluent Cloud 콘솔에서 ID 제공업체와 풀을 설정하려면 서비스 계정 고유 ID가 필요합니다.

1. Google Cloud 콘솔에서 서비스 계정 세부정보 페이지로 이동합니다.

   서비스 계정으로 이동

2. 방금 만든 서비스 계정 또는 사용하려는 서비스 계정을 클릭합니다.

3. 서비스 계정 세부정보 페이지에서 고유 ID 번호를 기록합니다.

   Confluent Cloud 콘솔에서 ID 공급자 및 풀을 설정하려면 워크플로의 일부로 ID가 필요합니다.

Pub/Sub 서비스 계정에 서비스 계정 토큰 생성자 역할 추가

참고: Pub/Sub는 각 프로젝트의 서비스 계정을 만들고 유지합니다. 서비스 계정에는 service-{PROJECT_NUMBER}@gcp-sa-pubsub.iam.gserviceaccount.com 형식이 있습니다. Pub/Sub 서비스 계정에 Pub/Sub 서비스 에이전트 역할 (roles/pubsub.serviceAgent)이 없는 경우에만 이 절차를 수행합니다.

서비스 계정 토큰 생성자 역할(roles/iam.serviceAccountTokenCreator)을 받은 주 구성원은 서비스 계정의 단기 사용자 인증 정보 만들기를 할 수 있습니다. 이러한 토큰 또는 사용자 인증 정보는 서비스 계정을 가장하는 데 사용됩니다.

서비스 계정 가장에 대한 자세한 내용은 서비스 계정 가장을 참조하세요.

또한 이 절차 중에 Pub/Sub 게시자 역할(roles/pubsub.publisher)을 추가할 수 있습니다. 역할 및 역할을 추가하는 이유에 대한 자세한 내용은 Pub/Sub 서비스 계정에 Pub/Sub 게시자 역할 추가를 참조하세요.

1. Google Cloud 콘솔에서 IAM 페이지로 이동합니다.

   IAM으로 이동

2. Google 제공 역할 부여 포함 Google 체크박스를 클릭합니다.

3. service-{PROJECT_NUMBER}@gcp-sa-pubsub.iam.gserviceaccount.com 형식의 서비스 계정을 찾습니다.

4. 이 서비스 계정에서 주 구성원 수정 버튼을 클릭합니다.

5. 필요한 경우 다른 역할 추가를 클릭합니다.

6. 서비스 계정 토큰 생성자 역할 (roles/iam.serviceAccountTokenCreator)을 검색하여 클릭합니다.

7. 저장을 클릭합니다.

Confluent Cloud에서 ID 공급업체 만들기

Confluent Cloud에 인증하려면 Google Cloud 서비스 계정에 ID 풀이 필요합니다. 먼저 Confluent Cloud에서 ID 공급자를 만들어야 합니다.

Confluent Cloud에서 ID 공급자를 만드는 방법에 관한 자세한 내용은 OAuth/OIDC ID 공급자 추가 페이지를 참고하세요.

1. Confluent Cloud 콘솔에 로그인합니다.

2. 메뉴에서 계정 및 액세스를 클릭합니다.

3. 워크로드 아이덴티티를 클릭합니다.

4. 공급업체 추가를 클릭합니다.

5. OAuth/OIDC를 클릭한 다음 다음을 클릭합니다.

6. 기타 OIDC 제공업체를 클릭한 다음 다음을 클릭합니다.

7. ID 공급자의 목적에 관한 이름과 설명을 입력합니다.

8. 고급 구성 표시를 클릭합니다.

9. 발급자 URI 필드에 https://accounts.google.com를 입력합니다.

10. JWKS URI 필드에 https://www.googleapis.com/oauth2/v3/certs를 입력합니다.

11. 유효성 검사 및 저장을 클릭합니다.

Confluent Cloud에서 ID 풀을 만들고 적절한 역할을 부여합니다.

ID 프로필 아래에 ID 풀을 만들고 Pub/Sub 서비스 계정이 Confluent Cloud Kafka 주제를 인증하고 읽을 수 있도록 필요한 역할을 부여해야 합니다.

ID 풀을 만들기 전에 클러스터가 Confluent Cloud에 생성되었는지 확인합니다.

ID 풀을 만드는 방법에 관한 자세한 내용은 OAuth/OIDC ID 공급업체에서 ID 풀 사용 페이지를 참고하세요.

1. Confluent Cloud 콘솔에 로그인합니다.

2. 메뉴에서 계정 및 액세스를 클릭합니다.

3. 워크로드 아이덴티티를 클릭합니다.

4. Confluent Cloud에서 ID 공급자 만들기에서 만든 ID 공급자를 클릭합니다.

5. 풀 추가를 클릭합니다.

6. ID 풀의 이름과 설명을 입력합니다.

7. ID 클레임을 claims로 설정합니다.

8. 필터 설정에서 고급 탭을 클릭합니다. 다음 코드를 입력합니다.

   claims.iss=='https://accounts.google.com' && claims.sub=='<SERVICE_ACCOUNT_UNIQUE_ID>'
   

   <SERVICE_ACCOUNT_UNIQUE_ID>를 서비스 계정 고유 ID 기록에 있는 서비스 계정의 고유 ID로 바꿉니다.

9. 다음을 클릭합니다.

10. 새 권한 추가를 클릭합니다. 그런 다음 다음을 클릭합니다.

11. 관련 클러스터에서 Add role assignment(역할 할당 추가)를 클릭합니다.

12. 운영자 역할을 클릭하고 추가를 클릭합니다.

    이 역할은 Pub/Sub를 부여합니다. Pub/Sub에 처리하려는 Confluent Kafka 주제가 포함된 클러스터에 대한 서비스 계정 액세스 권한

13. 클러스터에서 주제를 클릭합니다. 그런 다음 Add role assignment(역할 할당 추가)를 클릭합니다.

14. DeveloperRead 역할을 선택합니다.

15. 적절한 옵션을 클릭하고 주제 또는 접두사를 지정합니다. 예를 들어 특정 주제, 접두사 규칙 또는 모든 주제를 선택할 수 있습니다.

16. 추가를 클릭합니다.

17. 다음을 클릭합니다.

18. 유효성 검사 및 저장을 클릭합니다.

Pub/Sub 사용자 인증 정보에 Pub/Sub 게시자 역할 추가

게시를 사용 설정하려면 Pub/Sub가 Confluent Cloud 가져오기 주제에 게시할 수 있도록 Pub/Sub 서비스 계정에 게시자 역할을 할당해야 합니다.

모든 주제에서 게시 사용 설정

Confluent Cloud 가져오기 주제를 만들지 않은 경우 이 방법을 사용하세요.

1. Google Cloud 콘솔에서 IAM 페이지로 이동합니다.

   IAM으로 이동

2. Google 제공 역할 부여 포함 Google 체크박스를 클릭합니다.

3. service-{PROJECT_NUMBER}@gcp-sa-pubsub.iam.gserviceaccount.com 형식의 서비스 계정을 찾습니다.

4. 이 서비스 계정에서 주 구성원 수정 버튼을 클릭합니다.

5. 필요한 경우 다른 역할 추가를 클릭합니다.

6. Pub/Sub 게시자 역할 (roles/pubsub.publisher)을 검색하여 클릭합니다.

7. 저장을 클릭합니다.

단일 주제에서 게시 사용 설정

Confluent Cloud 가져오기 주제가 이미 있는 경우에만 이 메서드를 사용하세요.

1. In the Google Cloud console, activate Cloud Shell.

   Activate Cloud Shell

   At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.

2. gcloud pubsub topics add-iam-policy-binding 명령어를 실행합니다.

   gcloud pubsub topics add-iam-policy-binding TOPIC_ID \
      --member="serviceAccount:[e-mail]" \
      --role="roles/pubsub.publisher"

   다음을 바꿉니다.

   • TOPIC_ID: Confluent Cloud 가져오기 주제의 주제 ID입니다.

   • PROJECT_NUMBER: 프로젝트 번호입니다. 프로젝트 번호를 보려면 프로젝트 식별을 참조하세요.

서비스 계정에 서비스 계정 사용자 역할 추가

서비스 계정 사용자 역할 (roles/iam.serviceAccountUser)에는 주 구성원이 서비스 계정을 Confluent Cloud 가져오기 주제의 처리 설정에 연결하고 제휴 ID에 해당 서비스를 사용할 수 있게 해주는 iam.serviceAccounts.actAs 권한이 포함되어 있습니다.

1. Google Cloud 콘솔에서 IAM 페이지로 이동합니다.

   IAM으로 이동

2. 주제 만들기 또는 업데이트 호출을 실행하는 주 구성원에 대해 주 구성원 수정 버튼을 클릭합니다.

3. 필요한 경우 다른 역할 추가를 클릭합니다.

4. 서비스 계정 사용자 역할(roles/iam.serviceAccountUser)을 검색하여 클릭합니다.

5. 저장을 클릭합니다.

Confluent Cloud 가져오기 주제 사용

새 가져오기 주제를 만들거나 기존 주제를 수정할 수 있습니다.

고려사항

주의: Confluent Cloud에 이미 데이터가 있는 경우 수집 설정을 사용 설정하지 않고 먼저 표준 주제 및 기본 구독을 만듭니다. 그런 다음 주제를 가져오기 주제로 변환합니다. 이 메서드는 모든 메시지가 구독에서 수신되도록 보장합니다.

• 주제와 구독을 개별적으로 만들더라도 빠르게 연속으로 만들면 데이터가 손실될 수 있습니다. 구독 없이도 잠시 동안은 주제가 표시됩니다. 이 기간에 주제에 데이터를 전송하면 데이터가 손실됩니다. 먼저 주제를 만들고 구독을 만든 다음 주제를 가져오기 주제로 변환하면 가져오기 프로세스 중에 메시지가 누락되지 않습니다.

• 기존 가져오기 주제의 Kafka 주제를 동일한 이름으로 다시 만들어야 하는 경우 Kafka 주제를 삭제하고 다시 만들 수는 없습니다. 이 작업으로 인해 Pub/Sub의 오프셋 관리가 무효화되어 데이터 손실이 발생할 수 있습니다. 이 문제를 완화하려면 다음 단계를 따르세요.

  • Pub/Sub 가져오기 주제를 삭제합니다.
  • Kafka 주제를 삭제합니다.
  • Kafka 주제를 만듭니다.
  • Pub/Sub 가져오기 주제를 만듭니다.

• Confluent Cloud Kafka 주제의 데이터는 항상 최초 오프셋에서 읽습니다.

Confluent Cloud 가져오기 주제 만들기

주제와 연결된 속성에 대해 자세히 알아보려면 주제 속성을 참고하세요.

다음 절차를 완료했는지 확인하세요.

• 제휴 ID를 설정하여 Confluent Cloud에 액세스

• Pub/Sub 서비스 계정에 Pub/Sub 게시자 역할 추가

• 서비스 계정에 서비스 계정 사용자 역할 추가

Confluent Cloud 가져오기 주제를 만들려면 다음 단계를 따르세요.

콘솔

1. Google Cloud 콘솔에서 IAM 페이지로 이동합니다.

   주제로 이동

2. 주제 만들기를 클릭합니다.

3. 주제 ID 필드에 가져오기 주제의 ID를 입력합니다.

   주제 이름 지정에 대한 자세한 내용은 이름 지정 가이드라인을 참고하세요.

4. 기본 구독 추가를 선택합니다.

5. 수집 사용 설정을 선택합니다.

6. 처리 소스에서 Confluent Cloud를 선택합니다.

7. 다음 세부정보를 입력합니다.

   1. 부트스트랩 서버: Pub/Sub에 처리하는 Kafka 주제가 포함된 클러스터의 부트스트랩 서버입니다. 형식은 hostname:port입니다.

   2. 클러스터 ID: Pub/Sub에 처리하는 Kafka 주제가 포함된 클러스터의 ID입니다.

   3. 주제: Pub/Sub에 처리하는 Kafka 주제의 이름입니다.

   4. ID 풀 ID: Confluent Cloud에서 인증하는 데 사용되는 ID 풀의 풀 ID입니다.

   5. 서비스 계정: Google Cloud에서 서비스 계정 만들기에서 만든 서비스 계정입니다.

8. 주제 만들기를 클릭합니다.

gcloud

1. In the Google Cloud console, activate Cloud Shell.

   Activate Cloud Shell

   At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.

2. gcloud pubsub topics create 명령어를 실행합니다.

   gcloud pubsub topics create TOPIC_ID \
       --confluent-cloud-ingestion-bootstrap-server CONFLUENT_BOOTSTRAP_SERVER \
       --confluent-cloud-ingestion-cluster-id CONFLUENT_CLUSTER_ID \
       --confluent-cloud-ingestion-topic CONFLUENT_TOPIC \
       --confluent-cloud-ingestion-identity-pool-id CONFLUENT_IDENTITY_POOL_ID \
       --confluent-cloud-ingestion-service-account PUBSUB_SERVICE_ACCOUNT

   다음을 바꿉니다.

   • TOPIC_ID: Pub/Sub 주제의 이름 또는 ID입니다.
   • CONFLUENT_BOOTSTRAP_SERVER: Pub/Sub에 처리하는 Kafka 주제가 포함된 클러스터의 부트스트랩 서버입니다. 형식은 hostname:port입니다.
   • CONFLUENT_CLUSTER_ID: Pub/Sub에 처리하는 Kafka 주제가 포함된 클러스터의 ID입니다.
   • CONFLUENT_TOPIC: Pub/Sub에 처리하는 Kafka 주제의 이름입니다.
   • CONFLUENT_IDENTITY_POOL_ID: Confluent Cloud에서 인증하는 데 사용되는 ID 풀의 풀 ID입니다.
   • PUBSUB_SERVICE_ACCOUNT: Google Cloud에서 서비스 계정 만들기에서 만든 서비스 계정입니다.

Go

이 샘플을 사용해 보기 전에 Pub/Sub 빠른 시작: 클라이언트 라이브러리 사용의 Go 설정 안내를 따르세요. 자세한 내용은 Pub/Sub Go API 참고 문서를 확인하세요.

Pub/Sub에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

import (
	"context"
	"fmt"
	"io"

	"cloud.google.com/go/pubsub"
)

func createTopicWithConfluentCloudIngestion(w io.Writer, projectID, topicID, bootstrapServer, clusterID, confluentTopic, poolID, gcpSA string) error {
	// projectID := "my-project-id"
	// topicID := "my-topic"

	// // Confluent Cloud ingestion settings.
	// bootstrapServer := "bootstrap-server"
	// clusterID := "cluster-id"
	// confluentTopic := "confluent-topic"
	// poolID := "identity-pool-id"
	// gcpSA := "gcp-service-account"

	ctx := context.Background()
	client, err := pubsub.NewClient(ctx, projectID)
	if err != nil {
		return fmt.Errorf("pubsub.NewClient: %w", err)
	}
	defer client.Close()

	cfg := &pubsub.TopicConfig{
		IngestionDataSourceSettings: &pubsub.IngestionDataSourceSettings{
			Source: &pubsub.IngestionDataSourceConfluentCloud{
				BootstrapServer:   bootstrapServer,
				ClusterID:         clusterID,
				Topic:             confluentTopic,
				IdentityPoolID:    poolID,
				GCPServiceAccount: gcpSA,
			},
		},
	}
	t, err := client.CreateTopicWithConfig(ctx, topicID, cfg)
	if err != nil {
		return fmt.Errorf("CreateTopic: %w", err)
	}
	fmt.Fprintf(w, "Created topic with Confluent Cloud ingestion: %v\n", t)
	return nil
}

Java

이 샘플을 사용해 보기 전에 Pub/Sub 빠른 시작: 클라이언트 라이브러리 사용의 Java 설정 안내를 따르세요. 자세한 내용은 Pub/Sub Java API 참고 문서를 확인하세요.

Pub/Sub에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

import com.google.cloud.pubsub.v1.TopicAdminClient;
import com.google.pubsub.v1.IngestionDataSourceSettings;
import com.google.pubsub.v1.Topic;
import com.google.pubsub.v1.TopicName;
import java.io.IOException;

public class CreateTopicWithConfluentCloudIngestionExample {
  public static void main(String... args) throws Exception {
    // TODO(developer): Replace these variables before running the sample.
    String projectId = "your-project-id";
    String topicId = "your-topic-id";
    // Confluent Cloud ingestion settings.
    String bootstrapServer = "bootstrap-server";
    String clusterId = "cluster-id";
    String confluentTopic = "confluent-topic";
    String identityPoolId = "identity-pool-id";
    String gcpServiceAccount = "gcp-service-account";

    createTopicWithConfluentCloudIngestionExample(
        projectId,
        topicId,
        bootstrapServer,
        clusterId,
        confluentTopic,
        identityPoolId,
        gcpServiceAccount);
  }

  public static void createTopicWithConfluentCloudIngestionExample(
      String projectId,
      String topicId,
      String bootstrapServer,
      String clusterId,
      String confluentTopic,
      String identityPoolId,
      String gcpServiceAccount)
      throws IOException {
    try (TopicAdminClient topicAdminClient = TopicAdminClient.create()) {
      TopicName topicName = TopicName.of(projectId, topicId);

      IngestionDataSourceSettings.ConfluentCloud confluentCloud =
          IngestionDataSourceSettings.ConfluentCloud.newBuilder()
              .setBootstrapServer(bootstrapServer)
              .setClusterId(clusterId)
              .setTopic(confluentTopic)
              .setIdentityPoolId(identityPoolId)
              .setGcpServiceAccount(gcpServiceAccount)
              .build();
      IngestionDataSourceSettings ingestionDataSourceSettings =
          IngestionDataSourceSettings.newBuilder().setConfluentCloud(confluentCloud).build();

      Topic topic =
          topicAdminClient.createTopic(
              Topic.newBuilder()
                  .setName(topicName.toString())
                  .setIngestionDataSourceSettings(ingestionDataSourceSettings)
                  .build());

      System.out.println(
          "Created topic with Confluent Cloud ingestion settings: " + topic.getAllFields());
    }
  }
}

Node.js

이 샘플을 사용해 보기 전에 Pub/Sub 빠른 시작: 클라이언트 라이브러리 사용의 Node.js 설정 안내를 따르세요. 자세한 내용은 Pub/Sub Node.js API 참고 문서를 확인하세요.

Pub/Sub에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

/**
 * TODO(developer): Uncomment these variables before running the sample.
 */
// const topicNameOrId = 'YOUR_TOPIC_NAME_OR_ID';
// const bootstrapServer = 'url:port';
// const clusterId = 'YOUR_CLUSTER_ID';
// const confluentTopic = 'YOUR_CONFLUENT_TOPIC';
// const identityPoolId = 'pool-ID';
// const gcpServiceAccount = 'ingestion-account@...';

// Imports the Google Cloud client library
const {PubSub} = require('@google-cloud/pubsub');

// Creates a client; cache this for further use
const pubSubClient = new PubSub();

async function createTopicWithConfluentCloudIngestion(
  topicNameOrId,
  bootstrapServer,
  clusterId,
  confluentTopic,
  identityPoolId,
  gcpServiceAccount
) {
  // Creates a new topic with Confluent Cloud ingestion.
  await pubSubClient.createTopic({
    name: topicNameOrId,
    ingestionDataSourceSettings: {
      confluentCloud: {
        bootstrapServer,
        clusterId,
        topic: confluentTopic,
        identityPoolId,
        gcpServiceAccount,
      },
    },
  });
  console.log(`Topic ${topicNameOrId} created with Confluent Cloud ingestion.`);
}

Python

이 샘플을 사용해 보기 전에 Pub/Sub 빠른 시작: 클라이언트 라이브러리 사용의 Python 설정 안내를 따르세요. 자세한 내용은 Pub/Sub Python API 참고 문서를 확인하세요.

Pub/Sub에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

from google.cloud import pubsub_v1
from google.pubsub_v1.types import Topic
from google.pubsub_v1.types import IngestionDataSourceSettings

# TODO(developer)
# project_id = "your-project-id"
# topic_id = "your-topic-id"
# bootstrap_server = "your-bootstrap-server"
# cluster_id = "your-cluster-id"
# confluent_topic = "your-confluent-topic"
# identity_pool_id = "your-identity-pool-id"
# gcp_service_account = "your-gcp-service-account"

publisher = pubsub_v1.PublisherClient()
topic_path = publisher.topic_path(project_id, topic_id)

request = Topic(
    name=topic_path,
    ingestion_data_source_settings=IngestionDataSourceSettings(
        confluent_cloud=IngestionDataSourceSettings.ConfluentCloud(
            bootstrap_server=bootstrap_server,
            cluster_id=cluster_id,
            topic=confluent_topic,
            identity_pool_id=identity_pool_id,
            gcp_service_account=gcp_service_account,
        )
    ),
)

topic = publisher.create_topic(request=request)

print(f"Created topic: {topic.name} with Confluent Cloud Ingestion Settings")

C++

이 샘플을 사용해 보기 전에 Pub/Sub 빠른 시작: 클라이언트 라이브러리 사용의 C++ 설정 안내를 따르세요. 자세한 내용은 Pub/Sub C++ API 참고 문서를 확인하세요.

Pub/Sub에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

namespace pubsub = ::google::cloud::pubsub;
namespace pubsub_admin = ::google::cloud::pubsub_admin;
[](pubsub_admin::TopicAdminClient client, std::string project_id,
   std::string topic_id, std::string const& bootstrap_server,
   std::string const& cluster_id, std::string const& confluent_topic,
   std::string const& identity_pool_id,
   std::string const& gcp_service_account) {
  google::pubsub::v1::Topic request;
  request.set_name(
      pubsub::Topic(std::move(project_id), std::move(topic_id)).FullName());
  auto* confluent_cloud = request.mutable_ingestion_data_source_settings()
                              ->mutable_confluent_cloud();
  confluent_cloud->set_bootstrap_server(bootstrap_server);
  confluent_cloud->set_cluster_id(cluster_id);
  confluent_cloud->set_topic(confluent_topic);
  confluent_cloud->set_identity_pool_id(identity_pool_id);
  confluent_cloud->set_gcp_service_account(gcp_service_account);

  auto topic = client.CreateTopic(request);
  // Note that kAlreadyExists is a possible error when the library retries.
  if (topic.status().code() == google::cloud::StatusCode::kAlreadyExists) {
    std::cout << "The topic already exists\n";
    return;
  }
  if (!topic) throw std::move(topic).status();

  std::cout << "The topic was successfully created: " << topic->DebugString()
            << "\n";
}

Node.js (TypeScript)

이 샘플을 사용해 보기 전에 Pub/Sub 빠른 시작: 클라이언트 라이브러리 사용의 Node.js 설정 안내를 따르세요. 자세한 내용은 Pub/Sub Node.js API 참고 문서를 참조하세요.

Pub/Sub에 인증하려면 애플리케이션 기본 사용자 인증 정보를 설정합니다. 자세한 내용은 로컬 개발 환경의 인증 설정을 참조하세요.

/**
 * TODO(developer): Uncomment these variables before running the sample.
 */
// const topicNameOrId = 'YOUR_TOPIC_NAME_OR_ID';
// const bootstrapServer = 'url:port';
// const clusterId = 'YOUR_CLUSTER_ID';
// const confluentTopic = 'YOUR_CONFLUENT_TOPIC';
// const identityPoolId = 'pool-ID';
// const gcpServiceAccount = 'ingestion-account@...';

// Imports the Google Cloud client library
import {PubSub} from '@google-cloud/pubsub';

// Creates a client; cache this for further use
const pubSubClient = new PubSub();

async function createTopicWithConfluentCloudIngestion(
  topicNameOrId: string,
  bootstrapServer: string,
  clusterId: string,
  confluentTopic: string,
  identityPoolId: string,
  gcpServiceAccount: string
) {
  // Creates a new topic with Confluent Cloud ingestion.
  await pubSubClient.createTopic({
    name: topicNameOrId,
    ingestionDataSourceSettings: {
      confluentCloud: {
        bootstrapServer,
        clusterId,
        topic: confluentTopic,
        identityPoolId,
        gcpServiceAccount,
      },
    },
  });
  console.log(`Topic ${topicNameOrId} created with Confluent Cloud ingestion.`);
}

문제가 발생하면 Confluent Cloud 가져오기 주제 문제 해결을 참고하세요.

Confluent Cloud Hubs 가져오기 주제 수정

Confluent Cloud 가져오기 주제의 처리 데이터 소스 설정을 수정하려면 다음 단계를 따르세요.

콘솔

1. Google Cloud 콘솔에서 IAM 페이지로 이동합니다.

   주제로 이동

2. Confluent Cloud 가져오기 주제를 클릭합니다.

3. 주제 세부정보 페이지에서 수정을 클릭합니다.

4. 변경하려는 필드를 업데이트합니다.

5. 업데이트를 클릭합니다.

gcloud

1. In the Google Cloud console, activate Cloud Shell.

   Activate Cloud Shell

   At the bottom of the Google Cloud console, a Cloud Shell session starts and displays a command-line prompt. Cloud Shell is a shell environment with the Google Cloud CLI already installed and with values already set for your current project. It can take a few seconds for the session to initialize.

   가져오기 주제의 설정이 손실되지 않도록 주제를 업데이트할 때마다 모든 설정을 포함해야 합니다. 누락된 항목이 있으면 Pub/Sub에서 설정을 원래 기본값으로 재설정합니다.

2. 다음 샘플에 언급된 모든 플래그를 사용하여 gcloud pubsub topics update 명령어를 실행합니다.

   gcloud pubsub topics update TOPIC_ID \
      --confluent-cloud-ingestion-bootstrap-server CONFLUENT_BOOTSTRAP_SERVER \
      --confluent-cloud-ingestion-cluster-id CONFLUENT_CLUSTER_ID \
      --confluent-cloud-ingestion-topic CONFLUENT_TOPIC \
      --confluent-cloud-ingestion-identity-pool-id CONFLUENT_IDENTITY_POOL_ID \
      --confluent-cloud-ingestion-service-account PUBSUB_SERVICE_ACCOUNT

   다음을 바꿉니다.

   • TOPIC_ID: Pub/Sub 주제의 이름 또는 ID입니다.
   • CONFLUENT_BOOTSTRAP_SERVER: Pub/Sub에 처리 중인 Kafka 주제가 포함된 클러스터의 부트스트랩 서버입니다. 형식은 hostname:port입니다.
   • CONFLUENT_CLUSTER_ID: Pub/Sub에 처리하는 Kafka 주제가 포함된 클러스터의 ID입니다.
   • CONFLUENT_TOPIC: Pub/Sub에 처리하는 Kafka 주제의 이름입니다.
   • CONFLUENT_IDENTITY_POOL_ID: Confluent Cloud에서 인증하는 데 사용되는 ID 풀의 풀 ID입니다.
   • CONFLUENT_IDENTITY_POOL_ID: Google Cloud에서 서비스 계정 만들기에서 만든 서비스 계정입니다.

할당량 및 한도

가져오기 주제의 게시자 처리량은 주제의 게시 할당량에 따라 제한됩니다. 자세한 내용은 Pub/Sub 할당량 및 한도를 참조하세요.

다음 단계

• 가져오기 주제 모니터링하기

• 주제의 구독 유형 선택하기

• 주제에 메시지를 게시하는 방법 알아보기

• gcloud CLI, REST API 또는 클라이언트 라이브러리를 사용하여 주제를 만들거나 수정합니다.

• Confluent Cloud 가져오기 주제 문제 해결하기

Apache Kafka®는 미국 및/또는 다른 국가에서 사용되는 Apache Software Foundation 또는 해당 계열사의 등록 상표입니다.