ClickPipes는 DocumentDB 5.0 버전을 지원합니다.
기본적으로 Amazon DocumentDB의 변경 스트림 로그 보존 기간은 3시간입니다. 반면 초기 적재는 DocumentDB에 기존 데이터가 얼마나 있는지에 따라 훨씬 더 오래 걸릴 수 있습니다. 초기 스냅샷이 완료되기 전에 변경 스트림 로그가 잘리지 않도록, 로그 보존 기간을 72시간 이상으로 설정하는 것이 좋습니다.
AWS Console을 통해 변경 스트림 로그 보존 기간 업데이트
- 왼쪽 패널에서
Parameter groups를 클릭한 다음, DocumentDB 클러스터에서 사용 중인 parameter group을 찾으십시오(기본 parameter group을 사용 중이면, 이를 수정하려면 먼저 새 parameter group을 생성해야 합니다).
change_stream_log_retention_duration를 검색한 다음, 해당 항목을 선택하여 259200(72시간)으로 수정하십시오.
Apply Changes를 클릭하여 수정한 parameter group을 DocumentDB 클러스터에 즉시 적용하십시오. parameter group의 상태가 applying으로 변경된 후, 변경 사항이 적용되면 in-sync로 바뀝니다.
AWS CLI로 변경 스트림 로그 보존 기간 업데이트
또는 AWS CLI로 이를 설정할 수 있습니다.
현재 변경 스트림 로그 보존 기간을 확인하려면:
aws docdb describe-db-cluster-parameters --db-cluster-parameter-group-name <PARAMETER_GROUP_NAME> --query "Parameters[?ParameterName=='change_stream_log_retention_duration'].{Name:ParameterName,Value:ParameterValue}"
변경 스트림 로그 보존 기간을 72시간으로 설정하려면:
aws docdb modify-db-cluster-parameter-group --db-cluster-parameter-group-name <PARAMETER_GROUP_NAME> --parameters "ParameterName=change_stream_log_retention_duration,ParameterValue=259200,ApplyMethod=immediate"
관리자 사용자로 DocumentDB 클러스터에 연결한 다음, MongoDB CDC ClickPipes에 사용할 데이터베이스 사용자를 생성하려면 다음 명령을 실행하십시오:
db.getSiblingDB("admin").createUser({
user: "clickpipes_user",
pwd: "some_secure_password",
roles: ["readAnyDatabase", "clusterMonitor"],
})
clickpipes_user와 some_secure_password를 원하는 사용자 이름과 비밀번호로 바꾸십시오.
이제 ClickPipe를 생성하고 DocumentDB 인스턴스의 데이터를 ClickHouse Cloud로 수집하기 시작할 수 있습니다.
ClickPipe 생성 과정에서 필요하므로, DocumentDB 클러스터를 설정할 때 사용한 연결 정보를 반드시 기록해 두십시오.