Criar e proteger um cluster de metastore do Hive

Visão geral

Quando você cria um cluster do Dataproc, o aplicativo Apache Hive e os componentes, incluindo o metastore do Hive, estão instalados no cluster e uma senha padrão for definida no arquivo hive-site.xml, localizado na nó mestre do cluster.

É recomendável especificar sua própria senha do metastore Hive para realizar metas a seguir:

  • Como uma prática recomendada para garantir que você controle o acesso aos metastore local Hive fornecendo sua própria senha

  • Para especificar uma senha conhecida que controla o acesso a metastores externas do Hive usadas com bancos de dados externos compartilhados entre diferentes clusters

Definir a senha do metastore do Hive

Execute o comando a seguir: Criação de clusters do Dataproc da CLI do Google Cloud para criar um cluster do Dataproc e especificar um Hive metastore.

gcloud dataproc clusters create cluster-name
 --properties="hive:javax.jdo.option.ConnectionPassword=HIVE_METASTORE_PASSWORD"

Observações:

  • Consulte Criar uma chave para criar uma chave no Cloud Key Management Service.
  • A senha da metastore do Hive é armazenada apenas nos nós mestres do cluster, não nos nós de trabalho.

Para mais informações sobre como proteger clusters do Dataproc, consulte as práticas recomendadas de segurança do Dataproc.

Cenários sem suporte

O Dataproc não oferece suporte aos seguintes cenários do metastore Hive: independentemente de usar a senha padrão ou uma senha do metastore Hive fornecida pelo usuário:

  • Use um cliente metastore incorporado no driver do Spark em execução no modo de cluster, para que os nós de trabalho exijam senhas do Hive. Esse cenário pode causar problemas de conectividade com o banco de dados do metastore, já que a conexão não é feita pelo processo HiveMetaStore em execução na nó mestre do Dataproc.

  • Desative o metastore Hive e hive-server2 para usar seu próprio banco de dados MySQL. Nesse cenário, spark.hadoop.javax.jdo.option.ConnectionURL=jdbc:mysql://CLUSTER_NAME-m/metastore não tem efeito.