네트워크 보안 · Beginner
인증서 검증 완전 입문: 신뢰 체인·SAN·EKU·만료와 오프라인 PKI 실습
일회성 루트·중간·최종 인증서 체인을 만들고 여섯 대조 시험으로 신뢰·서비스 이름·용도·시간·해지 증거를 구분합니다.
업데이트 2026-11-18
이 문서의 목차
학습 경로: 이전: 공개키·개인키와 서명 → 이 장 → 다음: AD CS 등록·인증서 인증. 기존 암호화·서명 실습을 반복하지 않고 인증서 내용 조회와 실제 검증으로 확장합니다.
1. 정확히 무엇을 신뢰하려는 것인가요?
브라우저가 어떤 서비스에 연결했더니 인증서를 받았습니다. 서명값이 있고, 익숙한 조직 이름이 보이며, 만료일이 미래라는 사실만으로 모든 검증이 끝나지는 않습니다. 설정된 신뢰 앵커까지 연결되는지, 요청한 서비스의 이름인지, 지금 이 용도로 사용할 수 있는지, 어떤 상태 확인 정책을 적용했는지를 나누어 질문해야 합니다.
방문증을 생각해 보세요. 누가 발급했는지, 누구의 방문증인지, 어느 방에 들어갈 수 있는지, 언제 만료되는지는 다른 확인입니다. 다만 실제 인증서는 로고를 알아보는 방식이 아니라 명시한 소프트웨어 규칙으로 처리합니다.
경로 구성(Path building)은 발급자를 이어 후보 경로를 찾는 단계이고, 경로 검증(Path validation)은 그 경로와 제약을 평가하는 단계입니다. 서비스 신원 검증은 연결하려던 신원과 인증서의 적절한 이름을 비교합니다. 실제 TLS에서는 관련 개인키 보유 증명도 필요합니다. 공개 인증서 파일만 오프라인으로 검증해서는 실제 서버가 그 개인키를 가졌다고 입증하지 못합니다.
2. 인증서의 항목을 과장 없이 읽기
| 항목 | 의미 | 조사할 때의 한계 |
|---|---|---|
| Subject·Issuer | 주체와 발급자 이름 | 이름 문자열 일치가 서명 검증·승인된 CA의 증거는 아님 |
| Serial | 발급자 문맥 안의 인증서 식별자 | 발급자와 함께 보존하며 전역 사용자·장치 ID로 취급하지 않음 |
| Subject Public Key Info | 공개키와 알고리즘 | 개인키가 아님 |
| SAN | DNS 이름·IP 등 대체 이름 | 참조 신원과 적절한 자료형으로 비교 |
| Basic Constraints | CA 여부와 경로 길이 제약 | 전달받은 최종 인증서를 자동으로 CA로 신뢰하면 안 됨 |
| KU·EKU | Key Usage·Extended Key Usage 사용 제한 | digitalSignature와 serverAuth는 다른 제약 |
| notBefore·notAfter | 유효 시간 범위 | 검증자 시계·평가 시각이 중요 |
| 서명 알고리즘·서명값 | 인증서 데이터에 대한 발급자 서명 | 서명 유효가 곧 발급자 신뢰 지시는 아님 |
| SKI·AKI | 주체·발급자 키 식별 힌트 | 발급자 후보 선택에 도움을 주며 검증을 대체하지 않음 |
| CRL DP·AIA | 지원 서비스·자료 접근 정보 | URL 존재가 실제 조회·강제의 증거는 아님 |
PEM은 텍스트 인코딩·컨테이너이며 여러 객체를 담을 수도 있습니다. DER은 바이너리 표현입니다. .crt, .cer, .pem 확장자는 힌트일 뿐 내용 판별을 대신하지 않습니다. 인증서 지문은 인코딩된 인증서를, 공개키 지문은 다른 바이트를 해시합니다. 같은 키로 갱신해도 인증서 지문은 달라질 수 있습니다.
3. 루트·중간·최종 인증서: 두 방향을 함께 보세요
예를 들어 루트가 중간 CA 인증서를 발급하고, 중간 CA가 lab.example.test용 최종 인증서(Leaf)를 서명합니다. 루트를 신뢰하는 이유는 검증자 정책·저장소에서 신뢰 앵커로 선택했기 때문입니다. 자체 서명 하나가 그 신뢰를 만들어 주지는 않습니다.
서버는 보통 최종 인증서와 필요한 중간 인증서를 보내며, 클라이언트는 별도로 앵커를 보유·설정합니다. 루트를 추가로 전송한다고 클라이언트가 반드시 신뢰하는 것은 아닙니다. 중간 인증서가 빠져도 어떤 클라이언트는 작동하고 다른 클라이언트는 실패할 수 있습니다. 캐시, 발급자 조회 동작, 신뢰 저장소가 다르기 때문입니다.
실습의 -CAfile root.pem은 의도한 앵커를 지정하고, -untrusted intermediate.pem은 경로 구성용 발급자 후보를 제공합니다. 여기서 untrusted는 입력 역할이지 중간 인증서가 악성이라는 판정이 아닙니다. 후보도 적절한 경로에 들어맞아야 합니다. 중간 인증서 누락을 해결하려고 모든 인증서를 신뢰 저장소에 넣지 마세요.
실제 환경에서는 대체 경로나 교차 서명이 있을 수 있습니다. 서버가 보낸 순서가 모든 클라이언트에 동일하게 적용된다고 생각하지 말고, 문제가 생긴 클라이언트가 실제 구성한 경로를 기록하세요.
4. 호스트명·DNS·SNI·SAN은 다른 증거입니다
앱이 lab.example.test에 연결하려 했다고 합시다. DNS 결과는 접속 주소입니다. 인증서 안의 아무 이름으로 원래 요청 신원을 바꿔도 된다는 허가는 아닙니다. SNI는 클라이언트가 어느 가상 서비스를 요청하는지 TLS 종단에 알려 줍니다. SNI를 보냈다는 사실이 반환된 인증서 검증까지 의미하지는 않습니다.
현행 서비스 신원 지침 RFC 9525는 적절한 SAN 식별자를 사용하며 Common Name을 서비스 신원으로 사용하지 않도록 합니다. 다만 라이브러리에는 과거 호환 동작이 남기도 합니다. OpenSSL 3.5 호스트명 옵션 문서는 CN fallback을 별도로 설명합니다. 이 실습은 DNS SAN을 사용하며 fallback을 시험하거나 권장하지 않습니다. 실제 앱의 동작을 확인하세요.
DNS SAN과 IP SAN은 다른 자료형입니다. 참조 신원이 IP 리터럴이면 적절한 IP SAN과 IP 신원 검사를 사용해야 합니다. 와일드카드는 임의 부분 문자열 일치가 아닙니다. 맨 왼쪽 레이블의 와일드카드가 더 깊은 모든 이름까지 허용하지 않습니다. 이 실습은 실패 원인을 명확히 하기 위해 와일드카드·국제화 이름·서비스별 신원 프로파일을 사용하지 않습니다.
5. 용도·제약·시간을 각각 평가하기
TLS 서버 인증에 쓸 수 있는 인증서가 클라이언트 인증·코드 서명·AD 로그온에도 자동으로 적합한 것은 아닙니다. KU·EKU, CA 제약, 서명·보안 요구, 소비 앱 정책을 함께 해석해야 합니다. 파일에 “인증서”가 들어 있다는 사실이 모든 프로토콜용 자격 증명을 뜻하지 않습니다.
실습의 중간 CA에는 CA:TRUE,pathlen:0을 설정했습니다. 최종 인증서는 발급할 수 있지만 그 아래에 또 다른 비자체발급 중간 CA를 두는 것은 해당 제약이 허용하지 않습니다. 최종 인증서는 CA:FALSE, digitalSignature, serverAuth, DNS SAN을 갖습니다. 교육 목적의 선택이며 운영 CA 템플릿이 아닙니다.
선택한 경로의 관련 인증서에 대해 검증자 규칙에 따라 유효 시간을 확인합니다. 시계가 틀리면 정상 인증서도 아직 유효하지 않거나 만료된 것처럼 보일 수 있습니다. 미래 시각 시험은 -attime을 사용하며 시스템 시계는 변경하지 않습니다. 공개 브라우저 PKI와 사내 PKI에는 추가로 서로 다른 정책이 적용됩니다. 실습의 365·30·1일 유효기간은 권고도, 현재 공개 인증서 수명 제한에 관한 설명도 아닙니다.
6. 해지 여부는 또 다른 질문입니다
CRL은 서명된 해지 정보를 게시하고, OCSP는 서명된 인증서 상태 응답을 제공합니다. 관련 발급자·인증서, 응답 권한, 시간 범위와 소비자 정책을 확인해야 합니다. OCSP의 good은 이름·경로·용도 검사까지 전부 통과했다거나 상대가 안전하다는 종합 판정이 아닙니다.
해지됨·알 수 없음·접근 불가·오래된 응답·검사 안 함을 구분하세요. 같은 상태가 아닙니다. 접속을 중단할지, 상태 조회 실패를 허용할지, stapling이나 공급자별 구조를 쓸지는 구현·설정에 따라 다릅니다. 모든 브라우저가 같은 해지 동작을 한다고 설명하지 마세요.
관련 해지 입력·옵션 없이 openssl verify가 성공했다고 해지 검사도 성공한 것은 아닙니다. 이 실습은 CRL·OCSP 응답을 생성하지 않고 해지 서비스도 시험하지 않습니다. 만료와 해지는 서로 다른 상태입니다.
7. 공격·오용과 정상 장애는 비슷하게 보일 수 있습니다
| 관측·원리 | 가능한 정상 원인 | 보안 가설과 다음 증거 |
|---|---|---|
| 새 최종 인증서 지문 | 갱신·키 교체·다른 종단 | 예상 밖 발급·중간자 가능성: 목록·발급자·경로·SAN·배포 변경 비교 |
| 모르는 루트를 수용 | 승인된 기업 검사 프록시·사내 PKI | 무단 저장소 변경: 정책 출처·수행자·영향 클라이언트 |
| 호스트명 불일치 | 가상 호스트 오류·오래된 배포 | 리디렉션·가로채기: 참조 신원·DNS·프록시·SNI·종단 |
| 발급자 누락 | 체인 배포 누락·캐시 차이 | 승인 안 된 경로: 실제 제공 체인·설정된 앵커 확보 |
| 유해 파일의 유효 서명 | 침해되었거나 신뢰 못 할 서명자 | 서명 권한·파일 출처·실행 행위 검토 |
| 검증 비활성화 | 장애 대응 중 임시 우회 | 사칭 상대 수용 경로: 실제 앱 설정·변경 이력 |
정상 서비스의 공개 인증서를 복사한 것만으로 실시간 개인키 보유 증명을 통과하지는 못합니다. 반대로 키를 훔쳤다고 무관한 호스트명이 일치하지도 않습니다. 인증서 사실·키 통제·권한을 따로 판단하세요. 인증서 지문·UA·단일 IP만으로 공격자나 악성코드 계열을 확정하지 않습니다.
8. 블루팀 수집·탐지·대응
조사 기록에는 클라이언트·앱 버전, 의도한 서비스 이름·포트, UTC 평가 시각, 네트워크·프록시 경로, 제공된 체인, 신뢰 출처, 정확한 오류·정책을 함께 남기세요. 원본 공개 인증서와 해시를 보존하고, 발급자·Serial·SAN·유효기간·키 알고리즘·선택 경로를 조사 기준으로 활용합니다.
클라이언트 검증 출력, 관련 앱·TLS 종단 로그, 배포 이력, 호스트 프로세스·네트워크 문맥, 감사되는 신뢰 저장소 정책 변경을 수집합니다. 패킷 센서는 TLS 1.3의 암호화된 핸드셰이크 안에 있는 인증서를 보지 못할 수 있습니다. 목록·센서 기록에 없다고 인증서가 사용되지 않은 것은 아닙니다.
모든 제품에 공통인 “악성 인증서 공격” Event ID는 없습니다. 제품·Provider·채널·오류 필드·로그 수준·전달 설정이 수집 범위를 결정합니다. 정상 기준선을 만들고 소유한 시험 클라이언트에서 알려진 실패를 재현한 뒤 경보를 배포하세요. 실패 급증은 서비스 만료·중간 인증서 누락·시계 오류일 수 있으므로 배포·호스트 자료와 연결해야 합니다.
예상 밖 신뢰 변경이 확인되면 변경 전후 저장소·정책 출처를 보존하고 영향 클라이언트를 식별하며 승인된 절차로 무단 변경을 제한합니다. 키 침해가 확인되면 키와 의존 인증서를 교체하고 적절한 해지·소비자 동작을 시험합니다. 검증을 끄거나 검토하지 않은 루트를 추가하는 방식으로 오류를 없애지 마세요.
9. 자체 소유 환경의 오프라인 미니 PKI 실습
전체 Python 실습 다운로드. 준비물은 Python 3, 아래 옵션을 지원하는 OpenSSL 3.x, 정확한 시스템 시계입니다. 내용을 검토하고 certificate-validation-lab.py로 저장한 뒤 실행하세요.
openssl version
python3 certificate-validation-lab.py
스크립트는 루트·무관한 루트·중간 CA·최종 인증서용 RSA-3072 키 쌍 네 개를 일회성으로 생성합니다. 365일 루트 아래 30일 중간 CA와 1일 서버 인증서를 발급하고, 최종 메타데이터를 표시한 다음 여섯 시험을 수행합니다. 요청 설정·확장 파일·Serial·신뢰 파일을 명시합니다. 외부 접속·신뢰 저장소 설치·운영 키 접근은 없습니다.
키를 암호화하지 않는 것은 이 일회성 임시 폴더 실습을 위한 선택입니다. 정상 종료 시 제거하며, 중단되면 임시 영역에 자료가 남을 수 있습니다. 이 보관 방식이나 간단한 스크립트를 실제 인증기관 운영에 사용하지 마세요.
스크립트가 파일을 준비한 상태에서의 핵심 명령은 다음과 같습니다.
openssl x509 -in leaf.pem -noout -subject -issuer -serial -dates \
-ext subjectAltName,extendedKeyUsage,basicConstraints
openssl verify -no-CApath -no-CAstore -CAfile root.pem \
-untrusted intermediate.pem -purpose sslserver \
-verify_hostname lab.example.test leaf.pem
위는 설명용 발췌이며 파일 생성까지 하려면 전체 스크립트를 사용해야 합니다. 임시 위치에서 만든 파일은 종료 시 삭제됩니다. x509는 내용을 표시하고 두 번째 명령은 선택한 검사를 수행합니다. -no-CApath -no-CAstore로 해당 신뢰 출처로의 fallback을 막고, CA 파일은 명시적으로 지정합니다. 평소 시스템 신뢰 목록과 실험을 분리하기 위한 구성입니다.
10. 여섯 대조 시험과 기대 증거
| 바꾼 조건 | 기대 결과 | OpenSSL 3.5.7의 예시 오류 |
|---|---|---|
| 체인·요청 DNS 이름·서버 용도 모두 정상 | 통과 | leaf.pem: OK |
| 참조 이름을 wrong.example.test로 변경 | 실패 | 62: hostname mismatch, depth 0 |
| 중간 인증서 후보를 생략 | 실패 | 20: unable to get local issuer certificate, depth 0 |
| 서버 전용 인증서에 클라이언트 용도 요구 | 실패 | 26: unsuitable certificate purpose, depth 0 |
| 무관한 루트만 신뢰 | 실패 | 20: unable to get local issuer certificate, depth 1 |
| 이틀 뒤 시각으로 평가 | 실패 | 10: certificate has expired, depth 0 |
실제 실행: 게시용 클라우드 환경의 OpenSSL 3.5.7에서 여섯 대조 시험을 모두 통과했습니다. 성공 여부와 기대 오류 문구를 함께 검사하므로 무관한 명령 오류가 음성 대조 성공으로 계산되지 않습니다. PASS: 여섯 줄과 마지막 DONE: 줄이 나와야 합니다.
발급자 관련 두 실패는 같은 오류 번호 20이지만 경로 위치가 다릅니다. 이 예에서 depth 0은 최종 인증서, depth 1은 중간 CA입니다. 숫자만 적지 말고 인증서·깊이를 함께 보존하세요. 이 값은 OpenSSL 진단이며 Windows Event ID·TLS Alert·모든 브라우저 공통 오류 번호가 아닙니다.
스크립트가 십진수 100으로 지정한 최종 Serial은 출력에서 16진수 64로 보입니다. 키·날짜·지문은 실행마다 달라집니다. 성공은 이 오프라인 검사들의 결과이지 모든 경로·실제 운영 종단 검증이 아닙니다.
11. 공격 판정 전 실패 원인 점검
실패하면 stdout·stderr·종료 상태·OpenSSL 버전·입력 파일을 적절히 보호해 보존하세요. 실행 파일 존재, 옵션 지원·공급자 설정, 로컬 시계부터 확인합니다. 성공 표시를 얻으려고 보안 옵션을 조용히 삭제하지 마세요.
정상 대조가 실패하면 음성 대조 결과 해석을 멈추고 발급자 관계·확장 파일부터 점검합니다. 수정한 실험에서 중간 인증서 누락 시험이 예상 밖으로 성공하면 다른 발급자 출처·신뢰 입력을 확인하세요. 다른 곳에서 캐시·신뢰된 후보가 있으면 실험 조건이 달라집니다.
이름·시간 검사를 건너뛰거나 중요한 확장을 무시하거나 최종 인증서를 바로 신뢰해 오류만 숨기지 마세요. 클라이언트·서버 체인 배포·신뢰 정책·의도한 참조 신원 중 어디서 실패했는지 구분하고 수정 배포 전 원래 결과를 보존합니다.
미실행 범위: 브라우저·플랫폼 신뢰 정책, 실시간 TLS 핸드셰이크, AD CS 발급, CRL·OCSP 가용성·강제, Windows 감사, 운영 SIEM 탐지는 시험하지 않았습니다. 해당 소비자 환경에서 별도 검증이 필요합니다.
12. 확인 문제·해설·완료 기준
- 서버가 루트를 보내면 클라이언트가 신뢰해야 하나요? 아닙니다. 신뢰는 로컬 정책 결정입니다.
- 호스트명 옵션 없이 체인이 통과했다면 서비스 이름도 입증했나요? 아닙니다. 참조 신원을 정하고 명시적으로 검증해야 합니다.
- 같은 발급자 오류인데 깊이가 다른 이유는요? 한 시험은 최종 인증서 발급자를 못 찾고, 다른 시험은 제공된 중간 CA를 신뢰 루트까지 연결하지 못합니다.
- serverAuth가 있으면 클라이언트 인증도 되나요? 자동으로 되지 않습니다. 용도·소비자 정책이 허용해야 합니다.
- OK면 해지 검사나 개인키 보유도 확인했나요? 이 오프라인 실험에서는 아닙니다.
- 새 지문은 사고인가요? 변경 사실입니다. 갱신·종단·승인된 배포를 확인하고 확대하세요.
발급과 검증 방향을 그릴 수 있고, SAN·KU·EKU·유효기간을 식별하며, 여섯 시험을 재현하고, 관측된 검증 실패·가능한 원인·시험하지 않은 보안 가설을 나눠 결과를 쓰면 완료입니다.
다음: AD CS 발급·인증 또는 네트워크 증거. 이후 TLS·네트워크 조사는 이 기준점에서 이어가며 키 기초를 반복하지 않아도 됩니다.
13. 공식 출처와 검토 범위
검토일: 2026년 11월 18일. 자료마다 시점과 범위가 다릅니다. RFC 5280은 갱신 문서와 함께 읽는 기반 표준이며 현재 브라우저 정책 전체 설명서는 아닙니다. RFC 9525(2023년 11월)는 서비스 신원의 RFC 6125를 대체하고, OpenSSL 구현 동작은 별도 문서로 확인했습니다. 그림·상황·일회성 실습은 직접 작성한 교육 자료입니다.
- RFC 5280, 2008년 5월: 인증서 필드·제약·경로 검증.
- RFC 9525, 2023년 11월: TLS 서비스 신원.
- RFC 6960, 2013년 6월: OCSP 응답 의미.
- OpenSSL 3.5: verify, 검증 옵션, X.509 확장, x509, req.
TLS 핸드셰이크와 관측 증거 · 연결부터 HTTP까지
DNSSEC 검증과 SERVFAIL 조사
부모 DS와 자식 DNSKEY에서 응답 서명까지 대조하는 실습
인증서 투명성 증거 조사하기
로그의 약속, 포함 증명과 실제 서비스 배포를 구분합니다.
이어서 읽기
상호 TLS(mTLS) 입문 · TLS 종료 지점에서 클라이언트를 인증하는 과정과 애플리케이션 권한 판단을 로컬 연결 여섯 가지로 비교하세요.