Search Sparktype

HTTPS와 TLS 핸드셰이크 한 번에 이해하기

HTTP와 무엇이 다른지부터 TLS 1.3 핸드셰이크 흐름, 인증서 체계, Forward Secrecy까지 HTTPS의 동작 원리를 정리합니다.

Share

HTTPS는 HTTP 통신을 TLS(Transport Layer Security) 위에서 실행해 도청·위변조·사칭을 막는 프로토콜입니다. 브라우저 주소창의 자물쇠 아이콘이 HTTPS가 동작 중임을 의미합니다.

HTTPHTTPS
기본 포트80443
암호화없음TLS 암호화
무결성위변조 가능MAC 검증
서버 인증없음인증서(X.509)

TLS 핸드셰이크 흐름 (TLS 1.3 기준)

브라우저와 서버가 안전한 채널을 만드는 과정입니다. 왕복 1번(1-RTT)으로 완료됩니다.

  1. ClientHello — 지원 암호 목록, 랜덤값 전송
  2. ServerHello — 선택 암호, 인증서 전송
  3. 인증서 검증 — CA 체인 확인, 도메인 일치 확인
  4. 키 교환 — ECDHE로 세션 키 생성
  5. 암호화 통신 — AES-GCM으로 HTTP 데이터 전송

TLS 1.3에서는 0-RTT 재연결도 지원합니다. 이전에 방문한 서버라면 핸드셰이크 없이 첫 패킷부터 데이터를 보낼 수 있습니다(단, 재전송 공격 위험이 있어 GET 요청에만 권장됩니다).

3대 보안 목표

목표기술막는 공격
기밀성AES-256-GCM 대칭 암호화패킷 도청, 공용 Wi-Fi 감청
무결성HMAC / AEAD중간자 위변조, 광고 삽입
인증X.509 인증서 + CA 체인피싱 사이트, DNS 스푸핑, MITM

인증서와 CA 체인

서버의 신원을 보증하는 디지털 신분증으로, 세 계층으로 구성됩니다.

Root CA (최상위, 브라우저에 내장)
 └── Intermediate CA (중간 인증 기관)
      └── 서버 인증서 (example.com)
           ├── 공개키
           ├── 도메인 이름
           ├── 유효기간
           └── CA의 서명

인증서는 검증 수준에 따라 세 종류로 나뉩니다.

  • DV (Domain Validation) — 도메인 소유만 확인. Let’s Encrypt가 대표적이며 무료입니다.
  • OV (Organization Validation) — 조직 실체까지 확인.
  • EV (Extended Validation) — 가장 엄격한 검증. 브라우저 주소창에 회사명이 표시됩니다.

Let’s Encrypt 덕분에 DV 인증서는 완전 무료로 90일마다 자동 갱신할 수 있습니다. certbot이나 Caddy가 이 과정을 자동화해줍니다.

키 교환: ECDHE가 왜 안전한가

실제 암호화에 쓰는 세션 키는 서버의 인증서 키가 아니라 매 세션마다 새로 만드는 임시 키(ephemeral)입니다.

클라이언트 임시 키 쌍 (a, A=aG)
서버 임시 키 쌍 (b, B=bG)
   ↓ 교환
공유 비밀 = a·B = b·A = abG   ← 네트워크에 노출 안 됨

이 방식을 **Forward Secrecy(전방 비밀성)**라고 부릅니다. 서버 개인키가 나중에 유출되더라도 이전 세션의 키는 재현할 수 없습니다. 세션마다 새 임시 키를 쓰기 때문에, 하나가 뚫려도 다른 세션은 안전합니다.

HTTP일 때 실제로 일어나는 일

시나리오공격자가 할 수 있는 것
공용 Wi-Fi 카페 로그인쿠키, 비밀번호를 평문 그대로 수집
ISP·통신사방문 페이지 내용 열람, 광고 강제 삽입
DNS 스푸핑가짜 서버로 연결해도 사용자가 모름
중간자(MITM)요청·응답 내용을 임의로 변경

HTTPS라도 서버가 해킹되거나 CA가 잘못된 인증서를 발급하면 뚫릴 수 있습니다. HSTS, Certificate Transparency, CAA DNS 레코드 등을 함께 써서 추가로 방어합니다.

함께 쓰는 보안 강화 기술

기술역할
HSTS브라우저가 해당 도메인을 무조건 HTTPS로만 접속하도록 강제
Certificate Transparency잘못 발급된 인증서를 탐지하는 로그
OCSP Stapling인증서 유효성을 서버가 미리 확인해 응답에 포함
TLS 1.3취약한 암호(RC4, MD5 등) 제거, 핸드셰이크를 1-RTT로 단축
mTLS클라이언트도 인증서를 제시 — 서비스 메시 등에서 상호 인증에 사용

HTTPS는 결국 “TLS가 HTTP를 감싼다”는 단순한 아이디어 위에, 인증서 체계와 키 교환 방식이 정교하게 얹힌 결과입니다. 핸드셰이크 흐름과 Forward Secrecy 개념만 잡아두면 나머지 보안 기술들은 대부분 그 위의 보강책으로 이해할 수 있습니다.

Keep reading