Ingestão de dados do MySQL para o ClickHouse (usando CDC)

Faça a ingestão de dados do seu banco de dados MySQL ou MariaDB para o ClickHouse Cloud sem complicações.

A ingestão de dados do MySQL para o ClickHouse Cloud via ClickPipes está em beta pública.

O ClickPipe do MySQL oferece uma maneira totalmente gerenciada e resiliente de fazer a ingestão de dados de bancos de dados MySQL e MariaDB para o ClickHouse Cloud. Ele oferece suporte tanto a cargas em massa para ingestão única quanto a Change Data Capture (CDC) para ingestão contínua.

Os ClickPipes do MySQL podem ser implantados e gerenciados manualmente usando a UI do ClickPipes, bem como de forma programática usando OpenAPI e Terraform.

​

Pré-requisitos

Para começar, primeiro você precisa garantir que seu banco de dados MySQL esteja configurado corretamente para replicação de binlog. As etapas de configuração dependem de como o MySQL está implantado, portanto siga o guia apropriado abaixo:

​

Fontes de dados compatíveis

Nome	Logo	Detalhes
Amazon RDS MySQL Carga única, CDC		Siga o guia de configuração do Amazon RDS MySQL.
Amazon Aurora MySQL Carga única, CDC		Siga o guia de configuração do Amazon Aurora MySQL.
Cloud SQL for MySQL Carga única, CDC		Siga o guia de configuração do Cloud SQL for MySQL.
Azure Flexible Server for MySQL Carga única		Siga o guia de configuração do Azure Flexible Server for MySQL.
MySQL autogerenciado Carga única, CDC		Siga o guia de configuração do Generic MySQL.
Amazon RDS MariaDB Carga única, CDC		Siga o guia de configuração do Amazon RDS MariaDB.
MariaDB autogerenciado Carga única, CDC		Siga o guia de configuração do Generic MariaDB.

Depois que o banco de dados MySQL de origem estiver configurado, você poderá continuar criando seu ClickPipe.

​

Crie seu ClickPipe

Certifique-se de estar conectado à sua conta do ClickHouse Cloud. Se você ainda não tem uma conta, pode se cadastrar aqui.

1. No console do ClickHouse Cloud, acesse seu serviço do ClickHouse Cloud.

2. Selecione o botão Data Sources no menu lateral esquerdo e clique em “Set up a ClickPipe”

3. Selecione o bloco MySQL CDC

​

Adicione a conexão com o banco de dados MySQL de origem

4. Preencha os detalhes da conexão com o banco de dados MySQL de origem que você configurou na etapa de pré-requisitos.

Antes de começar a adicionar os detalhes da conexão, certifique-se de ter incluído os endereços IP do ClickPipes na lista de permissões das regras do seu firewall. Na página a seguir, você pode encontrar uma lista de endereços IP do ClickPipes. Para mais informações, consulte os guias de configuração do MySQL de origem com link no topo desta página.

​

(Opcional) Configure o túnel SSH

Você pode especificar os detalhes do túnel SSH se o seu banco de dados MySQL de origem não estiver acessível publicamente.

1. Ative a opção “Usar túnel SSH”.

2. Preencha os dados da conexão SSH.

3. Para usar autenticação por chave, clique em “Revogar e gerar par de chaves” para gerar um novo par de chaves e copie a chave pública gerada para o seu servidor SSH em ~/.ssh/authorized_keys.

4. Clique em “Verificar conexão” para verificar a conexão.

Certifique-se de adicionar os endereços IP do ClickPipes à lista de permissões nas regras do firewall do host bastion SSH, para que o ClickPipes possa estabelecer o túnel SSH.

Depois de preencher os dados da conexão, clique em Próximo.

​

Configurar configurações avançadas

Você pode configurar as opções avançadas, se necessário. Uma breve descrição de cada configuração é apresentada abaixo:

• Intervalo de sincronização: Este é o intervalo em que o ClickPipes consultará o banco de dados de origem em busca de alterações. Isso afeta o serviço ClickHouse de destino; para usuários que precisam controlar custos, recomendamos manter esse valor mais alto (acima de 3600).
• Threads paralelas para a carga inicial: Este é o número de workers paralelos que serão usados para buscar o snapshot inicial. Isso é útil quando você tem um grande número de tabelas e quer controlar a quantidade de workers paralelos usados para buscar o snapshot inicial. Essa configuração é por tabela.
• Tamanho do lote de extração: O número de linhas a serem buscadas em um único lote. Esta é uma configuração de melhor esforço e pode não ser seguida em todos os casos.
• Número de linhas por partição no snapshot: Este é o número de linhas que serão buscadas em cada partição durante o snapshot inicial. Isso é útil quando você tem um grande número de linhas em suas tabelas e quer controlar o número de linhas buscadas em cada partição.
• Número de tabelas em paralelo no snapshot: Este é o número de tabelas que serão buscadas em paralelo durante o snapshot inicial. Isso é útil quando você tem um grande número de tabelas e quer controlar o número de tabelas buscadas em paralelo.

​

Configurar as tabelas

5. Aqui, você pode selecionar o banco de dados de destino do seu ClickPipe. Você pode escolher um banco de dados existente ou criar um novo.

6. Você pode selecionar as tabelas do banco de dados MySQL de origem que deseja replicar. Ao selecionar as tabelas, você também pode optar por renomeá-las no banco de dados ClickHouse de destino, bem como excluir colunas específicas.

​

Verifique as permissões e inicie o ClickPipe

7. Selecione a função “Full access” no menu suspenso de permissões e clique em “Complete Setup”.

Por fim, consulte a página “FAQ do ClickPipes para MySQL” para mais informações sobre problemas comuns e como resolvê-los.

​

Próximos passos

Depois de configurar seu ClickPipe para replicar dados do MySQL para o ClickHouse Cloud, você pode se concentrar em como consultar e modelar seus dados para obter o melhor desempenho. Para dúvidas comuns sobre MySQL CDC e solução de problemas, consulte a página de FAQs do MySQL.