네트워크 보안 · Beginner
DNSSEC 검증 · 서명된 응답과 SERVFAIL 원인 추적하기
부모 영역의 DS부터 자식 DNSKEY와 응답 RRSIG까지 연결하고, 일회용 키로 오프라인 대조 시험 여섯 건을 실행합니다.
업데이트 2026-11-21
이 문서의 목차
학습 목표. 재귀 리졸버가 DNS 응답을 검증하는 신뢰 경로를 따라갑니다. 클라이언트와 리졸버의 기록을 비교해 DNS 장애가 어느 단계에서 발생했는지 찾습니다.
1. 검증 리졸버는 무엇을 확인하나요?
영역(zone)은 관리 주체가 맡는 DNS 범위입니다. 부모 영역은 이름 공간의 일부를 자식 영역에 위임합니다. RRset은 이름, 클래스, 유형이 같은 레코드의 묶음입니다. 한 이름에 IPv4 주소가 두 개라면 두 A 레코드가 같은 A RRset에 들어갑니다. DNSSEC는 이 묶음에 서명합니다.
| 레코드 또는 개념 | 게시하거나 설정하는 곳 | 검증에서 하는 일 |
|---|---|---|
| 신뢰 앵커 | 리졸버 운영자나 소프트웨어 배포판이 신뢰하는 출처를 바탕으로 설정 | 검증의 출발점. 공개 DNS에서는 일반적으로 루트 사용 |
| DS (Delegation Signer) | 부모 영역이 자식 이름에 게시 | 인증된 부모와 특정 자식 DNSKEY를 연결하는 다이제스트 |
| DNSKEY | 자식 영역 | 서명 검증에 쓰이는 공개키와 매개변수 |
| RRSIG | 해당 RRset에 서명하는 영역 | 전자서명과 그 대상 유형, 서명자 이름, 유효 시간 |
| NSEC 또는 NSEC3 | 서명된 영역 | 검증에 성공하면 레코드 부재의 근거가 됨. 예를 들어 DS가 없는 위임을 확인 |
많은 영역은 KSK(키 서명 키)로 DNSKEY 묶음에 서명하고, ZSK(영역 서명 키)로 그 밖의 레코드 묶음에 서명합니다. 하나로 두 역할을 맡는 키도 있습니다. DS에는 알고리즘, 다이제스트 유형, 키 태그, 다이제스트가 들어 있습니다. 키 태그로 후보를 좁힌 뒤 자식 이름을 표준 형식으로 바꾼 값과 DNSKEY 레코드 데이터를 이어 해시합니다. 그 다이제스트가 부모 DS와 맞아야 합니다.
리졸버는 위임 경로를 따라 같은 절차를 반복합니다. DNSSEC는 이 경로를 기준으로 DNS 데이터의 출처와 무결성을 확인합니다. 질의의 기밀성, 목적지의 평판, 웹 서버의 TLS 신원은 각각 별도의 근거가 필요합니다.
2. 정상 응답 하나를 따라가세요
가상의 이름 www.training.example.을 조회합니다. 리졸버가 부모 영역의 training.example. DS를 이미 인증했다고 가정하세요. 자식 DNSKEY 후보에서 다이제스트를 계산하고 부모 DS와 대조합니다. 그 키로 자식 DNSKEY 묶음의 서명을 확인합니다. 이어서 인증된 묶음에서 응답 서명에 맞는 키를 골라 서명의 유효 시간을 확인하고, 192.0.2.10을 담은 A 레코드 묶음을 검증합니다. 이 절차가 성공하면 해당 리졸버에서 응답 데이터를 인증한 것입니다.
| 검증 상태 | 흔한 이유 | 조사에서 할 일 |
|---|---|---|
| Secure | 신뢰 경로와 필요한 서명이 검증됨 | 어느 리졸버에서 언제 검증했는지 기록 |
| Insecure | 인증된 DS 부재 증명 등으로 서명되지 않은 위임임을 확인 | 해당 위임에서는 서명 없는 응답이 정상일 수 있음 |
| Bogus | 서명된 데이터를 기대했으나 검증이 실패 | 부모 DS, 자식 DNSKEY, 서명, 시계, 권한 서버 간 일치 여부 확인 |
| Indeterminate | 서명 여부를 판단하는 데 필요한 신뢰 앵커가 없음 | 리졸버의 신뢰 설정과 정책 확인 |
EDNS의 DO는 요청자가 DNSSEC 레코드를 받을 수 있음을 알립니다. 응답의 AD는 리졸버가 관련 데이터를 인증된 것으로 판단했다는 표시입니다. RFC 6840에 따르면 질의의 AD나 DO로 이 표시를 받고 싶다는 뜻을 전달할 수 있습니다. 응답의 AD는 리졸버와 그곳까지의 통신 경로를 신뢰할 수 있을 때 판단에 사용하세요. CD는 검증 실패 시에도 데이터를 돌려 달라는 진단용 요청에 쓸 수 있습니다. 동작은 리졸버에 따라 다르므로 승인된 환경에서만 비교하고, 반환 데이터를 검증된 결과로 해석하지 않습니다. AD가 없거나 RRSIG가 보이거나 SERVFAIL이 한 번 발생했다는 사실만으로 검증 상태를 확정할 수 없습니다.
3. 변경된 응답과 운영 장애를 구분하세요
A 레코드 묶음이 변경되면 기존 공개키와 서명으로 검증할 수 없습니다. 반면 서명 시스템이 침해되거나 위임이 무단으로 바뀌면, 바뀐 신뢰 경로에서 검증을 통과하는 데이터가 만들어질 수도 있습니다. 검증된 응답 자체가 예상과 다르다면 관리자 활동과 등록기관 변경 기록, 서명 시스템을 살펴보세요.
운영 문제도 같은 증상을 만들 수 있습니다. 자식 키를 교체할 때 캐시에 이전 DS가 남아 있는데 권한 서버에서 해당 키를 먼저 내릴 수 있습니다. 서명 갱신이 중단되거나 리졸버 시계가 서명 유효 범위를 벗어날 수도 있습니다. 타임아웃, 권한 서버의 복제 지연, TCP 재시도 실패나 포워딩 정책 때문에 자료가 빠질 수도 있습니다. 운영 설정을 바꾸기 전에 영향 범위를 확인하세요.
최근 루트 키 교체 사례. IANA에 따르면 키 태그 38696인 KSK-2024가 2026년 10월 11일부터 루트 영역에 서명하고 있습니다. ICANN은 검증 리졸버 운영자에게 배포된 신뢰 앵커 설정에 이 키가 있는지 확인할 것을 권고했습니다. 이전 키의 폐기는 2027년 1월 예정입니다. 적용할 때는 IANA의 최신 현황과 제품의 지원 절차를 확인하세요. 개별 SERVFAIL의 원인은 해당 환경의 증거로 조사합니다.
4. 블루팀 수집·탐지·대응
- 영향받은 관측 지점부터 확인합니다. 질의 UTC 시각, 이름과 유형(QNAME/QTYPE), 클라이언트 서브넷이나 DNS 뷰, 리졸버 주소, 응답 코드, AD/DO/CD, 전송 방식, 제공된 경우 확장 DNS 오류(EDE)를 기록하세요. 클라이언트, 리졸버 로그, 상위 질의 기록, 권한 서버 응답 중 어디에서 봤는지도 남깁니다.
- 어느 연결에서 실패했는지 비교합니다. DNS 담당자에게 부모 DS와 그 인증 근거, 자식 DNSKEY 묶음, DNSKEY와 대상 응답 양쪽의 서명, 권한 서버별 응답을 요청합니다. 전체 다이제스트를 비교하고, 서명의 시작·만료 시각을 신뢰할 수 있는 UTC 시계와 대조하세요. 키 교체 중이라면 캐시 상태와 TTL도 확인합니다. 의도적으로 다른 내부 응답을 제공하는 경우에는 올바른 DNS 뷰를 맞춰 비교하세요.
- 실패 건수에 관측량도 함께 봅니다. 제품이 지원하면 리졸버의 검증 로그나 EDE를 활용하세요. RFC 8914의 예로는 6(검증 실패), 7(서명 만료), 9(DNSKEY 없음)가 있습니다. EDE가 빠졌다고 원인을 배제할 수 없습니다. 리졸버와 영역별 질의량 대비 실패 건수를 보고, 서명 없는 정상 영역과 알려진 정상 서명 영역도 대조하세요. 서로 관계없는 서명 영역에서 같은 시간에 실패한다면 공통 리졸버, 시계, 신뢰 앵커를 점검할 근거가 됩니다.
- 문제가 생긴 단계에서 복구합니다. 리졸버 로그와 레코드 표본을 보존합니다. 확인된 원인에 따라 DNS 담당자, 등록기관 또는 리졸버 운영자와 조치하세요. 승인된 변경 뒤 영향을 받은 리졸버와 별도 승인된 관측 지점에서 다시 확인합니다. 캐시 반영 시간을 고려하고 운영 환경에서는 검증을 켠 상태로 조사합니다.
5. 오프라인 실습 · 대조 시험 여섯 건
dnssec-delegation-lab.py를 내려받으세요. Python 3.9 이상과 Ed25519를 지원하는 OpenSSL 3.x가 필요하며, OpenSSL을 PATH에서 찾을 수 있어야 합니다. 내려받은 폴더에서 실행합니다. 임시 폴더의 일회용 키 두 개로 DNSSEC 입력 바이트에 Ed25519 서명을 만들고 검증하며, SHA-256 DS 다이제스트를 계산합니다. 네트워크 연결 없이 실행하고 종료 시 임시 폴더를 정리합니다. 도메인, 주소, 검증 시각은 실습용이며, 부모 DS는 이미 인증된 값으로 주어집니다.
python3 dnssec-delegation-lab.py
| 사례 | 변경한 자료 | 예상 결과 |
|---|---|---|
| LAB-01 | 원본 DS, DNSKEY 묶음, A 레코드 사용 | validated_fixture_chain |
| LAB-02 | A 주소만 바꾸고 서명은 그대로 둠 | answer_rrset_signature_failed |
| LAB-03 | 키 태그는 유지하고 DS 다이제스트를 바꿈 | parent_ds_mismatch |
| LAB-04 | 검증 시각을 두 서명의 만료 이후로 설정 | dnskey_signature_outside_validity |
| LAB-05 | 서명 대상 DNSKEY 묶음에서 ZSK를 뺌 | dnskey_rrset_signature_failed |
| LAB-06 | 인증된 부모 DS 근거를 제공하지 않음 | no_authenticated_delegation_evidence |
키를 매번 새로 만들기 때문에 키 태그는 달라집니다. LAB-04는 신뢰 경로를 순서대로 검사하므로 DNSKEY 서명의 유효 시간 검사에서 먼저 멈춥니다. 실행이 시작되지 않으면 openssl version으로 설치 버전을 확인하고 해당 환경에서 Ed25519가 허용되는지 확인하세요. 스크립트는 이 고정된 실습 자료를 검증합니다. 재귀 질의, 부모 서명 검증, DNS 패킷, NSEC/NSEC3 처리는 포함하지 않습니다. OpenSSL 3.5.7에서 여섯 건을 실행했고, RFC 8080의 공개 예제와 DS 다이제스트 및 키 태그도 대조했습니다. 리졸버 플래그와 EDE 동작은 공식 문서로 검토했습니다.
6. 확인 문제와 완료 기준
- 키 태그가 같으면 위임을 검증한 건가요? 알고리즘과 전체 다이제스트를 대조한 뒤 DNSKEY 묶음의 서명까지 확인하세요.
- 진단 질의에 CD를 설정하니 답이 나왔습니다. 안전한 응답인가요? 검증에 실패해도 데이터를 달라는 요청입니다. 달라진 조건을 기록하고 정상 질의와 리졸버 진단 결과를 비교하세요.
- Insecure가 정상일 수 있나요? 검증 리졸버가 위임 영역이 서명되지 않았음을 인증된 자료로 확인하면 정상일 수 있습니다. 패킷에서 DS 한 줄이 보이지 않는 것과 검증된 부재 증명은 증거의 수준이 다릅니다.
- 권한 서버가 정상인데 리졸버도 봐야 하나요? DNS 뷰, 캐시, 정책이 다를 수 있습니다. 권한 서버의 정상 응답만으로 영향을 받은 리졸버가 최신 자료를 검증했다고 판단할 수 없습니다.
완료 기준. LAB-02·03·04에서 각각 어느 연결이 실패했는지 설명합니다. 실제 SERVFAIL 경보를 받았다고 가정하고, 먼저 수집할 자료 두 가지와 그 자료로 판단할 수 있는 사항을 적습니다.
이전 · DNS 기초와 증거 해석 · 관련 · 인증서 검증과 신뢰 체인
공식 참고자료
2026년 11월 21일 검토했습니다. RFC 날짜는 자료가 설명하는 표준의 발행 시점입니다. 운영 변경은 최신 IANA 현황과 제품 지침을 확인하세요.
- RFC 4033 · DNSSEC 개요와 검증 상태, 2005년 3월 · RFC 4034 · 레코드와 서명 대상 · RFC 4035 · 검증과 프로토콜
- RFC 6840 · AD/CD 등 규격 보완, 2013년 2월
- RFC 8080 · DNSSEC용 EdDSA와 공개 예제, 2017년 2월
- RFC 8914 · 확장 DNS 오류, 2020년 10월
- IANA · DNSSEC 신뢰 앵커와 2025–2027년 교체 일정 · ICANN · 2026년 10월 교체 현황과 권고
이어서 읽기
DNS 부정 캐시 입문 · 권한 서버의 변경이 클라이언트에 늦게 보일 때 SOA TTL과 해석 실패 기록을 비교합니다.