ClickHouse 멀티 클러스터 HA 구성 설계
샤딩·레플리카·Keeper 3중화를 지역별로 어떻게 배치하는지, 운영계와 검증계를 나누는 기준, TLS 클러스터와 평문 클러스터를 함께 두는 이유를 정리합니다.
여러 지역에 ClickHouse 클러스터를 운영하다 보면 “샤드 수를 몇 개로 나눌지”보다 “클러스터를 몇 개로 나눌지”가 먼저 정해야 할 질문이 됩니다. 실제로 다지역 클러스터를 구성하며 정리한 설계 패턴입니다.
왜 지역별로 클러스터를 분리하는가
하나의 거대한 클러스터로 모든 리전을 묶기보다, 지역마다 독립된 클러스터를 두고 필요하면 애플리케이션 레벨에서 라우팅하는 구성이 흔합니다. 이유는 단순합니다.
- 네트워크 지연 — 샤드 간 통신이나 Keeper 쿼럼 합의가 리전을 넘나들면 지연이 누적됩니다.
- 장애 격리 — 한 리전의 클러스터가 통째로 죽어도 다른 리전은 영향받지 않습니다.
- 트래픽 특성 차이 — 리전마다 데이터 발생량과 조회 패턴이 다르면, 샤드 수·레플리카 수를 리전별로 다르게 튜닝할 여지가 생깁니다.
운영계/검증계를 나누는 기준
같은 용도의 클러스터라도 운영계와 검증계는 규모가 다르게 구성하는 게 합리적입니다.
| 운영계 | 검증계 | |
|---|---|---|
| 목적 | 실제 서비스 트래픽 처리 | 스키마 변경·쿼리 검증 |
| 샤드/레플리카 | 트래픽에 맞춰 확장 | 최소 구성 (1~3 샤드) |
| Keeper | 3대 (쿼럼 유지) | 1~3대 |
검증계는 굳이 운영계와 동일한 규모로 둘 필요가 없습니다. 다만 Keeper는 검증계라도 쿼럼(과반수)이 성립하는 홀수 대수를 유지하는 게 안전합니다. 1대로 구성하면 그 한 대가 죽는 순간 클러스터 메타데이터 합의가 멈춥니다.
샤딩 + 레플리카 + Keeper 3중화
ClickHouse HA의 기본 골격은 세 가지 축으로 이뤄집니다.
샤드(Shard) — 데이터를 수평 분할, 쓰기·조회 병렬화
레플리카(Replica) — 같은 샤드의 데이터를 복제, 장애 시 페일오버
Keeper — 클러스터 메타데이터 합의(ZooKeeper 대체), 3대 이상 쿼럼
예를 들어 “4 Shards / 2 Replicas” 구성이라면, 데이터는 4개 조각으로 나뉘고 각 조각이 2대의 서버에 복제되어 총 8대의 데이터 서버가 필요합니다. 여기에 Keeper 3대가 별도로 붙어 메타데이터 합의를 담당합니다.
읽기 전용 레플리카를 별도로 몇 개 더 둘 수도 있습니다. 쓰기는 메인 샤드에만 들어가고, 조회가 많은 워크로드(대시보드, 리포트)를 읽기 전용 레플리카로 분리해서 메인 클러스터의 쓰기 성능에 영향을 주지 않게 합니다.
TLS 클러스터와 평문 클러스터를 함께 두는 이유
같은 조직 안에서도 클러스터마다 TLS 적용 여부가 다를 수 있습니다.
- 내부망에 완전히 격리된 클러스터 — 평문(HTTP 8123 / TCP 9000)으로 충분한 경우가 많습니다. 네트워크 경계 자체가 방어선입니다.
- 외부에 조금이라도 노출되거나, 더 엄격한 보안 요구가 있는 클러스터 — TLS(HTTPS 8443 / TCP 9440)를 강제합니다.
이때 주의할 점은 클라이언트 도구(BI 툴, DB 클라이언트)에서 접속 설정이 클러스터마다 달라진다는 것입니다. TLS 클러스터에 붙는 클라이언트는 인증서 설정을 명시적으로 해줘야 하고, 사설 IP로만 접근 가능한 프라이빗 로드밸런서를 별도로 두는 경우도 있습니다 — 내부망에서는 프라이빗 LB로, 외부에서는 퍼블릭 LB로 분기하는 식입니다.
정리
멀티 클러스터 ClickHouse를 설계할 때 순서대로 결정할 것들:
- 클러스터를 지역별로 나눌지 — 네트워크 지연과 장애 격리 기준으로 결정
- 운영계/검증계 규모 차이 — Keeper는 검증계도 쿼럼을 유지, 데이터 노드는 최소화
- 샤드 수와 레플리카 수 — 데이터량은 샤드로, 가용성은 레플리카로 분리해서 생각
- TLS 적용 범위 — 네트워크 경계에 대한 신뢰 수준에 따라 클러스터 단위로 결정
클러스터 하나를 무작정 키우기보다, “이 클러스터가 감당할 장애 범위가 어디까지인가”를 먼저 정하고 그에 맞는 크기로 여러 개를 두는 게 결국 운영 부담을 줄입니다.