네트워크 보안 · Beginner
DNS 부정 캐시 입문 · 이름 부재, 해석 실패, 복구 지연 구분하기
SOA와 별칭의 최종 대상, 리졸버 기록을 읽고 가상 시계 실습으로 NXDOMAIN·NODATA·해석 실패를 구분합니다.
업데이트 2026-11-21
이 문서의 목차
학습 목표. 권한 서버가 올바른 레코드를 제공하는데 일부 클라이언트는 여전히 접속하지 못한다고 해 볼게요. 어느 구성 요소가 어떤 응답을 냈는지, 캐시가 그 차이를 설명할 수 있는지, 무엇을 더 확인해야 하는지 판단할 수 있습니다. 질의 필드와 응답 코드가 낯설다면 DNS 조사 입문부터 읽어 보세요.
1. 원하는 응답을 얻지 못하는 이유
단말의 스텁 리졸버는 보통 재귀 리졸버에 질의합니다. 재귀 리졸버는 캐시를 사용하거나 필요한 경우 업스트림으로 질의를 보냅니다. 권한 서버는 자신이 서비스하는 존(zone)의 데이터를 바탕으로 답합니다. 캐시는 서비스, 인스턴스, 응답 뷰(요청자 등에 따라 달라지는 응답 범위)마다 다를 수 있습니다. 권한 서버의 변경이 단말이나 다른 리졸버의 캐시를 비우지는 않습니다.
RRset은 소유자 이름, 클래스, 유형이 같은 레코드의 묶음입니다. SOA(Start of Authority)는 DNS 존을 설명하는 레코드입니다. SOA 레코드의 TTL은 캐시에 둘 수 있는 시간이고, 마지막 MINIMUM 필드는 별도의 값입니다. RCODE는 DNS 메시지의 응답 코드입니다. DNS 응답을 받았어도 요청한 RRset이 없을 수 있습니다.
| 결과 | 뜻 | 증거와 캐시 범위 |
|---|---|---|
| NXDOMAIN | 해당 응답 뷰에서 이름이 존재하지 않음 | NXDOMAIN RCODE. 별칭 흐름과 권한 섹션의 SOA를 확인. 일반적으로 부재로 판단된 이름과 클래스가 같으면 여러 유형에 적용 |
| NODATA | 이름은 존재하지만 요청한 RRset이 없음 | NOERROR이면서 요청한 RRset이 없음. 위임과 별칭 문맥을 확인. 이름·클래스·유형 단위로 캐시 |
| 해석 실패 | 해석에 쓸 수 있는 결과를 얻지 못함 | 재귀 리졸버가 SERVFAIL을 보낼 수 있음. 리졸버 오류, 업스트림 시도, 있으면 EDE를 확인. 캐시 일치 범위는 실패와 구현에 따라 다름 |
| 관측 지점의 시간 초과 | 관측 지점에서 제한 시간 내 응답을 보지 못함 | 실제 응답 코드가 있었는지 알 수 없음. 전송 경로와 수집 범위를 확인 |
| 위임 응답(referral) | 하위 존의 권한 서버를 안내 | 보통 NOERROR와 위임 NS 레코드가 보임. 위임을 따라 결과를 확인 |
비어 있는 NOERROR만으로 NODATA를 확정할 수 없습니다. 응답과 권한 섹션, CNAME·DNAME 별칭 연결, 하위 존 위임을 같이 봅니다. 로그에서 응답이나 권한 섹션이 빠졌다면 더 원본에 가까운 자료를 찾으세요. 하위 이름은 있지만 자기 RRset은 없는 빈 중간 노드도 있습니다. 이 경우 RRset의 부재만으로 이름이 없다고 볼 수 없습니다.
2. 부정 응답의 TTL을 계산하기
RFC 2308에 따르면 권한 서버는 NXDOMAIN이나 NODATA를 응답할 때 권한 섹션에 존의 SOA를 넣습니다. 이때 응답에 넣는 SOA TTL은 존의 SOA 레코드 TTL과 SOA MINIMUM 중 작은 값입니다. 캐시는 저장한 SOA를 남은 TTL과 함께 반환합니다. 재귀 응답에서 보이는 SOA TTL은 이미 줄어든 값일 수 있습니다. 최초 시간을 추정하기 전에 권한 서버의 답을 직접 확인하세요. SOA가 없는 부정 응답은 이 방식으로는 일반적으로 캐시하지 않는 것이 권고됩니다.
별칭을 거친 NXDOMAIN은 별칭 연결의 마지막 대상이 없다는 뜻일 수 있습니다. 예를 들어 alias.lab.example.라는 CNAME은 존재하지만 그 대상은 없을 수 있습니다. RFC 8020은 부재로 확인된 이름 아래의 하위 이름에도 저장한 NXDOMAIN을 적용하는 동작을 설명합니다. 이미 캐시한 데이터가 있거나 DNSSEC로 검증된 부재에만 이 동작을 적용하는 구현 등 예외가 있습니다. 이 응답으로 부모 이름이나 형제 이름의 부재를 판단할 수는 없습니다. RFC 8198에 따라 검증 리졸버는 캐시에 있는 검증된 NSEC·NSEC3 증명으로 일부 부정 응답을 만들 수도 있습니다. 따라서 업스트림 패킷이 보이지 않는 데에는 여러 설명이 가능합니다.
3. 정상 복구를 권한 서버와 리졸버에서 함께 보기
서비스 존을 고친 가상 사례입니다. 첫 질의를 0초로 두고, 리졸버 뷰 하나만 비교합니다. 다른 캐시 계층이나 만료 응답 제공, 별도 TTL 조정 설정은 없다고 가정합니다. 질의 이름은 portal.lab.example.입니다.
| 경과 | 증거 | 해석 |
|---|---|---|
| 0초 | 권한 서버에 이름이 없음. 존의 SOA 레코드 TTL 300초, SOA MINIMUM 60초 | 처음 부정 TTL은 min(300, 60) = 60초 |
| 15초 | 운영자가 A 레코드를 등록. 올바른 권한 서버에 직접 질의하면 주소가 보임 | 해당 서버가 제공하는 존의 데이터는 복구됨 |
| 20초 | 같은 재귀 리졸버에서 NXDOMAIN과 SOA TTL 40초 | 앞서 저장한 부재 응답과 일치. 같은 이름의 AAAA 질의도 이 항목에 해당할 수 있음 |
| 59초 | 같은 리졸버에서 NXDOMAIN과 SOA TTL 1초 | 이전 부정 응답이 아직 유효함 |
| 60초 | 캐시가 만료된 뒤 새 A 질의가 권한 서버에 도달해 새 레코드를 받음 | 가정한 범위에서는 이 리졸버도 복구된 주소를 줄 수 있음 |
반대로 이미 IPv4가 있는 이름이면 AAAA에서 NODATA를 받는 동안에도 A에서 주소를 얻을 수 있습니다. AAAA를 추가해도 A 결과는 그대로일 수 있습니다. 실제 리졸버는 TTL 제한이나 만료 응답 제공 등 별도의 동작을 지원할 수 있습니다. TTL이 예상대로 줄었다면 캐시 가능성을 뒷받침합니다. 같은 서버로 질의하고 권한 서버와 리졸버의 증거를 대조해 실제로 업스트림 질의가 있었는지 확인하세요.
4. SERVFAIL과 정책으로 생성된 응답 조사하기
사용할 수 있는 서버들에서 필요한 데이터, 위임 정보, 의미 있는 부정 응답을 얻지 못하면 해석 실패입니다. 한 번의 시도는 실패해도 다른 서버가 답할 수 있습니다. 클라이언트가 받은 SERVFAIL은 DNS 응답이고, 클라이언트 시간 초과는 응답을 관측하지 못한 결과입니다. 두 경우 모두 이름이 존재하는지는 알 수 없습니다.
2023년 12월의 RFC 9520은 과거에 선택 사항이었던 해석 실패 캐싱 지침을 갱신했습니다. 리졸버는 해석 실패를 1초 이상, 최대 5분 캐시하고 그 항목과 일치하는 업스트림 질의를 만료까지 억제해야 합니다. 모든 오류가 같은 기준으로 묶이는 것은 아닙니다. 시간 초과와 재시도도 전송 방식과 구현에 따라 달라집니다. 제품 예시로 BIND 9.20.31 매뉴얼의 별도 설정 servfail-ttl은 기본 1초, 해당 설정의 최댓값 30초를 안내합니다. 실제 버전과 적용 설정을 확인한 뒤 복구 시간을 판단하세요. 이 타이머는 SOA로 정한 부정 TTL과 별개입니다. 검증 실패는 DNSSEC 검증 안내에서 더 자세히 다룹니다.
확장 DNS 오류(EDE)는 RCODE를 바꾸지 않고 선택적으로 추가 정보를 줍니다. 예를 들어 13은 캐시된 오류, 15는 차단, 17은 필터링을 뜻합니다. EDE는 응답을 보낸 장비의 진단 정보입니다. EDE가 없더라도 정책이나 캐시가 없다고 판단할 수 없습니다. 내부 필터가 공개 권한 서버와 다른 응답을 만들 수 있으므로 원래 같은 결과를 내야 하는 뷰끼리 비교하세요. 내부 이름을 확인하려고 관련 없는 DNS 서비스에 보내지 않습니다.
5. 블루팀이 수집하고 판단하는 순서
UTC 시각과 시계 오차, 가능하면 클라이언트·프로세스, 리졸버 주소와 뷰, 전송 방식, QNAME·QTYPE·QCLASS, RCODE, 응답과 권한 섹션의 SOA 또는 위임 정보, 플래그와 EDE를 기록합니다. 업스트림 질의와 캐시 기록을 얻을 수 있으면 함께 보존하세요. 암호화된 DNS에서는 네트워크 센서에 질의 이름이 보이지 않을 수 있습니다. 승인된 리졸버 또는 엔드포인트에서 수집하고 질의 이름의 접근과 보존 범위를 제한하세요.
아래는 소유했거나 승인받은 존에서 실행하는 BIND dig 조회 예시입니다. 문서용 IP를 실제 관리 범위의 재귀 리졸버와 같은 뷰를 서비스하는 권한 서버 주소로 바꾸세요. 이름 끝에 점을 붙이면 검색 접미사 적용 여부의 혼동을 줄일 수 있습니다. +norecurse는 질의의 RD 비트를 끕니다. 응답의 AA 플래그, 응답 서버, 존 데이터를 확인해 올바른 권한 서버에 질의했는지 검증하세요. 양쪽 결과를 시간대별로 보존하고 EDE가 필요하면 +noall을 빼고 전체 응답을 확인하세요.
dig @192.0.2.53 portal.lab.example. A +noall +comments +answer +authority
dig @192.0.2.54 portal.lab.example. A +norecurse +noall +comments +answer +authority
| 패턴 | 단정하기 전에 확인할 것 | 대응 |
|---|---|---|
| 새로 만든 이름을 한 리졸버만 계속 찾지 못함 | 권한 서버에서 수정본을 제공하는지, 같은 뷰인지, 캐시의 수명과 조회 기록이 맞는지 | 만료 뒤 같은 리졸버에서 재확인. 필요한 경우 소유자와 범위를 좁혀 대응 |
| 여러 클라이언트가 SERVFAIL을 받음 | 질의 유형, 검증 오류와 시각, 업스트림 도달 여부와 실패 캐싱 | 업스트림 또는 검증 문제를 해결하고 검증과 증거를 유지한 상태에서 재시험 |
| NXDOMAIN이 급증함 | 대상 클라이언트 수, 전체 응답 수, 고유 이름, 요청 프로세스, 검색 접미사, 배포와 정책 | 오타·구성 오류와 설명되지 않는 활동을 구분하고 엔드포인트 증거와 대조 |
| 예상 밖 정책 응답이나 거부 | 리졸버 신원과 전달 경로, 정책 변경 로그, 내부 뷰와 승인 규칙 | 원시 응답과 변경 기록을 보존하고 운영자와 승인된 동작 복원 |
승인되지 않은 DNS 정책·존 변경은 사용자를 의도하지 않은 서비스로 보내거나 정상 이름의 해석을 막을 수 있습니다. 정상 필터나 배포 오류가 비슷한 결과를 만들 수 있고, 정상 소프트웨어의 오작동으로도 NXDOMAIN이 반복됩니다. 관측 지점과 승인된 변경 시각을 기준으로 묶고 의심스러운 결과를 독립적인 엔드포인트·구성 증거와 연결하세요. 응답 코드, 이름 패턴, 고정 횟수 기준 하나로 침해를 확정하지 않습니다.
6. 오프라인 실습 · 가상 시계로 17단계 따라가기
가상 사례와 Python 재생 스크립트를 같은 디렉터리에 저장하세요. Python 3.10 이상과 표준 라이브러리만 사용합니다. 프로그램은 유형이 미리 분류된 업스트림 결과를 읽고 가상 시계를 진행하면서 캐시 하나의 동작을 검사합니다. 네트워크 연결이나 DNS 권한, 실제 DNS 레코드는 필요하지 않습니다.
python3 dns-negative-cache-review.py dns-negative-cache-cases.json --check
| 사례 | 확인할 결과 |
|---|---|
| N1 | A에 저장한 NXDOMAIN이 20초의 AAAA에도 적용. A는 59초까지 부정 응답, 60초에는 업스트림에 질의 |
| N2 | AAAA의 부정 캐시는 40초 유효하지만 A는 해석 가능. AAAA는 40초에 다시 업스트림에 질의 |
| N3 | 실습 모델의 5초짜리 A 해석 실패 때문에 2초의 A는 캐시를 사용. AAAA는 업스트림으로 가고 A도 5초에 다시 질의 |
| N4 | 모델에서 SOA 없는 NXDOMAIN은 캐시하지 않음 |
| N5 | 부재 항목은 별칭의 마지막 대상 이름으로 저장. 그 대상의 AAAA에 캐시가 적용되고, 원래 별칭의 질의는 단순화한 모델에서 고쳐진 업스트림 응답을 받을 수 있음 |
2026-11-21에 Python 3.12.14로 실행해 17/17 simulated steps matched.를 확인했습니다. 실습 모델은 정확히 일치하는 이름의 캐시와 미리 분류한 실패만 다룹니다. 양성 응답과 별칭 캐시, 하위 이름 응답 합성, DNSSEC 검증, 만료 응답 제공, 실제 DNS 패킷은 모델 범위 밖입니다. 제품 동작과 dig 예시는 공식 문서로 검토했습니다. 입력 파일을 찾지 못하면 파일명과 현재 디렉터리를 확인하세요. 자료를 바꾸어 시험할 때는 --check를 빼고 실행하고 결과를 재현할 때는 처음 자료를 사용하세요.
7. 확인 문제와 완료 기준
- 이전에 A에서 받은 NXDOMAIN이 AAAA에도 적용되는 이유는 무엇인가요? 부재로 저장한 기준이 이름과 클래스이기 때문입니다. NODATA는 유형도 범위에 포함합니다.
- NOERROR인데 AAAA가 없으면 바로 NODATA인가요? 권한 섹션과 별칭 연결을 보세요. 위임 중인 응답이나 별칭 대상 확인이 필요한 응답일 수 있고, 로그에서 필드가 빠졌을 수도 있습니다.
- SERVFAIL과 EDE 13을 함께 받았을 때 무엇을 알 수 있나요? 리졸버가 저장한 SERVFAIL을 반환했다고 알립니다. 처음 왜 실패했는지는 이전 리졸버 기록과 업스트림 상태를 살펴야 합니다.
- 권한 서버는 주소를 주는데 한 리졸버만 부정 응답을 주면 무엇을 비교하나요? 같은 이름·유형·클래스·뷰에서 질의했는지, 시각과 응답 서버가 맞는지 확인합니다. 권한 SOA와 리졸버 동작, 만료 시점 전후의 기록을 비교하고 다른 캐시의 영향도 살펴보세요.
17단계를 재현하고 각 캐시 범위에서 복구가 다르게 보이는 이유를 설명하면 이 장을 마친 것입니다. DNSSEC 검증에서 실패 원인을 좁히는 법을, DNS 조사 입문에서 로그 집계와 응답 비율 기준선을 이어서 학습하세요.
공식 참고자료
검토일은 2026-11-21입니다. 발행 시점과 표준별 적용 범위가 다릅니다. 제품 설정은 배포한 버전에서 확인하세요.
- RFC 2308 §§ 3, 5, 6, 1998년 3월. 부정 응답, SOA와 캐시 수명.
- RFC 8020 §§ 2–3, 2016년 11월. 부재로 판단된 이름과 하위 이름 처리. RFC 8198, 2017년 7월. 캐시된 DNSSEC 증명을 활용한 응답 합성.
- RFC 8914 §§ 3–4, 2020년 10월. EDE와 응답 코드.
- RFC 9520 §§ 2–3, 2023년 12월. 해석 실패 캐싱과 재시도 요건.
- ISC BIND 9.20 안정 버전 매뉴얼과 설정 문서. 9.20.31 문서에서 플래그와
servfail-ttl을 확인했습니다.