네트워크 보안 · Beginner
DNS 기초와 보안 조사: 이름 해석·캐시·응답 코드·로그 증거
클라이언트에서 권한 서버까지 DNS를 따라가고, 실패·암호화 DNS의 관측 한계를 구분하며, 가상 로그 14건을 오프라인으로 분석합니다.
업데이트 2026-11-18
이 문서의 목차
네트워크 필수 기초 장입니다. DNS 헌팅 전에 읽고 네트워크 관측, AD 서비스 검색, 인증서 신원 검증으로 연결하세요. 예시·주소·다운로드 기록은 직접 작성한 가상 교육 자료이며 실제 관측 IOC가 아닙니다.
1. DNS는 주소록을 넘어 분산 데이터베이스입니다
DNS(Domain Name System)는 이름에 관한 질문에 자료형이 정해진 레코드로 답합니다. 앱은 주소뿐 아니라 메일 목적지나 서비스 위치가 필요할 수도 있습니다. 한 자료형에 대한 답이 있다고 다른 모든 자료형도 존재하는 것은 아닙니다. 이름을 해석했다고 이후 연결·로그인이 있었다는 뜻도 아닙니다.
도메인은 이름 트리의 일부이고, 존(Zone)은 위임 경계를 고려해 관리·제공하는 부분입니다. 리졸버(Resolver)는 클라이언트 대신 답을 찾고, 권한 서버(Authoritative server)는 담당 존의 데이터를 제공합니다. 한 제품이 두 역할을 수행해도 역할 자체는 구분해야 합니다.
워크스테이션은 OS의 stub resolver, 로컬 서비스, 브라우저 자체 기능, 지정된 기업 리졸버를 사용할 수 있습니다. 캐시·로컬 설정에서 답을 얻을 수도 있습니다. 따라서 “앱이 호스트명을 사용했다”가 항상 새 DNS 패킷 송신을 뜻하지는 않습니다.
2. 핵심 용어와 레코드 종류
| 용어·자료형 | 역할 | 보안 조사에서의 의미 |
|---|---|---|
| QNAME·QTYPE | 질문한 이름·레코드 종류 | 함께 보존: A와 AAAA는 별도 질문 |
| FQDN | 완전한 이름, 끝의 점으로 루트를 명시할 수 있음 | 짧은 이름은 검색 접미사에 따라 달라질 수 있음 |
| A·AAAA | IPv4·IPv6 주소 | AAAA 부재가 IPv4 서비스 부재를 뜻하지 않음 |
| CNAME | 다른 이름을 가리키는 별칭 | IP 레코드가 아니며 이후 답의 연결 확인 |
| MX | 메일 서버 이름과 우선순위 | 대상 서버의 주소 해석도 필요 |
| NS·SOA | 네임서버·존 권한 정보 | 위임·관리·부정 응답의 문맥 |
| PTR | 역방향 이름 조회 | 역방향 이름이 호스트 신원을 인증하지 않음 |
| TXT | 여러 프로토콜에서 쓰는 텍스트 | 정상 소유권 검증·이메일 설정에서도 흔함 |
| SRV | 서비스 대상·포트·우선순위·가중치 | AD 검색에 중요하며 접근 권한과는 별개 |
| TTL | 캐시된 레코드 데이터의 수명 | 도메인 나이나 모든 캐시에 공통인 전파 타이머가 아님 |
HTTPS·SVCB 등은 이 표 밖으로 DNS를 확장합니다. 낯선 자료형이라고 무조건 버리지 말고 정의를 확인하세요. 별칭·서비스 레코드를 처리하는 방식도 앱별로 다를 수 있습니다.
도메인 아래에 별도 존이 존재할 수 있으므로 도메인 트리 전체가 하나의 존은 아닙니다. 위임된 자식에는 별도 관리 문맥이 있습니다. 레코드의 소유 이름과 응답의 대상 이름도 다릅니다. 별칭은 다른 운영자의 이름으로 이어질 수 있습니다.
3. 캐시가 없을 때의 정상 이름 해석
단순화한 www.example.com. 조회를 따라가 보겠습니다.
- 클라이언트가 지정된 재귀 리졸버에 A 같은 자료형을 질문합니다.
- 캐시에 답이 없으면 리졸버가 루트 서버에서 관련 TLD 서버로의 안내를 얻습니다.
- TLD 서버에 질문해 해당 도메인의 권한 서버 방향으로 위임 안내를 받습니다.
- 권한 서버에 데이터를 질문하고 필요하면 별칭·추가 위임을 따라갑니다.
- 캐시 가능한 결과를 저장하고 클라이언트에 답합니다.
별개의 질문을 만드는 주체는 리졸버입니다. 루트가 클라이언트 요청을 다음 서버로 전달해 주는 구조가 아닙니다. 캐시된 위임 정보·포워더·질의 최소화에 따라 실제 교환은 달라집니다. 그림은 모든 단계에 완전한 이름을 항상 보낸다는 뜻이 아닙니다.
재귀 서비스는 서버가 해결 작업을 해 주도록 요청하는 것이고, 반복 처리는 답·위임 안내를 따라가는 과정입니다. 포워더는 직접 그림처럼 탐색하는 대신 다른 리졸버에 작업을 넘길 수도 있습니다. 상위 구간 트래픽을 해석하기 전에 실제 설정 경로를 확인하세요.
4. 캐시와 응답 코드: 응답 전체를 읽기
| 관측 | 첫 해석 | 이것만으로 알 수 없는 것 |
|---|---|---|
| 요청 데이터가 있는 NOERROR | 해당 질문의 정상 답 | 안전한 목적지·앱 접근 성공 |
| NODATA | 문맥상 이름은 있지만 요청한 RRset이 없음 | NXDOMAIN과 다름, 별도 RCODE가 아님 |
| NXDOMAIN | 이름 부재 결과 | 악성코드·모든 부모나 형제 이름의 부재 |
| SERVFAIL | 서버가 처리를 완료하지 못함 | 단일 원인: 상위 장애·검증 문제 등 추가 확인 |
| REFUSED | 서버 정책에 따른 작업 거부 | 이름 자체의 부재 |
| 시간 초과 | 정한 시간 안에 응답을 관측하지 못함 | 응답 코드·확정된 서버 장애 |
NOERROR인데 답이 비었다는 것만으로 NODATA를 확정하지 마세요. 위임 안내·별칭·Authority 정보와 전체 응답을 확인해야 합니다. 로그 처리 과정에서 답 필드가 빠졌을 수도 있습니다. 실습의 NODATA 유사 행은 SOA 있음·위임 아님·CNAME 없음이라는 단순화된 문맥을 명시했습니다.
정상 답뿐 아니라 조건에 맞는 부정 응답도 캐시할 수 있습니다. 같은 오타를 다시 질문하면 캐시된 부정 답을 받을 수도 있습니다. 캐시 적중 시 TTL이 줄어들 수 있으므로 낮은 값 하나가 악의적 변경의 증거는 아닙니다. 캐시 정책·미리 가져오기·오래된 데이터 제공·여러 응답 출처가 시간 관계를 복잡하게 만들 수 있습니다. 설정을 고쳤다고 모든 앱·브라우저·리졸버 캐시가 즉시 만료되지는 않습니다.
오류 비율은 응답 종류와 관측 위치별로 구분하세요. 싱크홀 주소로 바뀐 차단 답, NXDOMAIN, 시간 초과는 다른 증거이며 운영상 영향도 다릅니다.
5. 헤더 플래그와 전송 방식
RD는 재귀 요청, RA는 재귀 제공 가능 여부, AA는 답에 대한 권한 문맥, TC는 잘림을 나타냅니다. 프로토콜 정보이지 보안 판정이 아닙니다. Transaction ID는 문맥 안에서 교환을 연결하는 데 쓰지만 16비트 값이므로 전역 고유 ID가 아닙니다.
전통적인 DNS는 UDP·TCP 53번을 사용합니다. TCP가 존 전송에만 쓰이는 것은 아닙니다. 잘린 UDP 답 이후나 다른 정상 상황에서도 사용합니다. TCP/53을 전부 막으면 정상 해석이 깨질 수 있습니다. EDNS는 UDP 페이로드 협상 등을 확장하므로 예전의 512바이트 한도를 현재 모든 트래픽의 고정 설명으로 쓰면 안 됩니다.
TC가 설정되면 이후 클라이언트 동작·TCP 교환을 확인하세요. 부분 답을 전체 자료로 취급하지 마세요. 포트 번호만으로 앱 프로토콜을 입증하지 못하고, DNS 계열 전송도 다른 포트를 사용할 수 있습니다.
6. DNSSEC와 암호화 DNS는 다른 문제를 해결합니다
| 기능 | 주요 보호 | 남는 질문 |
|---|---|---|
| DNSSEC 검증 | 설정된 신뢰 경로를 통한 데이터 출처 인증·무결성 | 목적지 서비스 자체가 안전한가? |
| DoT | 해당 DNS 구간의 TLS 보호, 흔히 stub에서 리졸버까지 | 리졸버 운영자·그 다음 구간은? |
| DoH | HTTPS를 통한 DNS 교환 | 어떤 프로세스·종단이 사용하며 정책·감사는 어디서 적용되나? |
| 일반 DNS 후 HTTPS 웹 접속 | DNS와 웹 연결은 별도 단계 | TLS 상대가 의도한 서비스 신원에 맞나? |
DNSSEC는 질문을 숨기지 않습니다. DNS를 암호화했다고 DNSSEC까지 검증한 것도 아닙니다. 검증 리졸버는 신뢰 설정에 따라 secure·insecure·bogus·indeterminate 같은 상황을 만날 수 있습니다. 서명되지 않은 도메인이 자동으로 악성인 것은 아닙니다.
AD 비트도 신뢰하는 리졸버와 적절히 보호된 경로의 문맥에서 해석해야 합니다. 임의 응답에 비트가 있다고 본인이 독립적으로 경로를 검증한 증거가 되지는 않습니다. 인증된 DNS 데이터도 악용되는 인프라를 가리킬 수 있습니다.
DoH·DoT는 수동 네트워크 센서에서 평문 이름을 보이지 않게 만들 수 있습니다. 리졸버 로그·승인된 호스트 자료가 다른 관측을 제공합니다. 이는 수집 설계 문제이지 암호화 DNS 사용자 전부가 정책을 우회한다는 증거가 아닙니다.
7. 공격·오용 가설과 정상 대안
| 패턴·원리 | 조사 이유 | 정상 대안과 필요한 증거 |
|---|---|---|
| 스푸핑·캐시 오염 | 거짓 데이터로 클라이언트 리디렉션 가능 | 리졸버 보호·설정·응답 문맥·호스트 결과 |
| 많은 NXDOMAIN | 이름 생성·비컨 실패와 맞을 수 있음 | 오타·검색 접미사·앱 장애·스캔: 프로세스·기준선 확인 |
| 길고 다양한 레이블 | 인코딩 데이터 운반 가능성 | 추적·검증 토큰·정상 생성 이름: 양·앱 확인 |
| 반복 TXT | 제어·데이터 채널 가능성 | 이메일·소유권 검증: 질문·답·프로세스 확인 |
| 예상 밖 리졸버 변경 | 신뢰·관측 경로 변화 | VPN·DHCP·승인 정책·브라우저 설정: 변경 출처 |
| 넓은 열거·존 전송 | 이름 노출·검색 행위 가능성 | 승인된 관리: 범위·서버 정책·실제 요청 |
DNS 조회가 사용자의 의도적 방문을 입증하지 않습니다. 주소 응답이 연결 성공을, 연결이 침해를 입증하지도 않습니다. CDN·공유 호스팅·NAT·보안 도구도 귀속 판단을 복잡하게 만듭니다.
실습 승인이 운영망 캐시 오염·터널링·광범위 열거 허가는 아닙니다. 여기서 레드팀의 목표는 알려진 정상 시험 질의가 관측되고 설명되는지 검증하는 것입니다. 제3자 DNS 서비스를 공격할 필요가 없습니다.
8. 올바른 관측 지점에서 증거 모으기
클라이언트→리졸버 구간의 출발지는 워크스테이션·로컬 프록시·NAT일 수 있습니다. 리졸버→상위 구간의 출발지는 흔히 리졸버이므로 원래 워크스테이션으로 취급하면 안 됩니다. 여러 클라이언트 질문이 한 번 얻은 캐시 답으로 처리되어 상위 질의를 만들지 않을 수도 있습니다.
UTC 시각·오차, 센서·관측 위치, 원본 주소·포트·전송, 질문 이름·자료형·클래스, 응답 코드, 답 레코드·TTL, 플래그·Transaction ID, 리졸버 정책, 수집된 경우 클라이언트 프로세스를 확보합니다. 원래 이름을 보존하고 정규화 필드를 따로 만드세요. 대소문자·끝의 점을 제거하며 원문을 잃지 마세요.
Zeek dns.log의 query·qtype_name·rcode_name·answers·TTLs·trans_id·uid는 관측 트래픽·분석기 출력에 좌우됩니다. 연결 UID 하나 안에도 여러 DNS 트랜잭션이 있을 수 있습니다. 센서·연결·시각·질문 문맥으로 ID를 제한하고 숫자가 같다는 이유로 다른 도구의 사건과 연결하지 마세요.
기록 활성화, 양방향 가시성, 암호화 경로, 패킷 손실, 전달·보존을 확인한 뒤 부재를 해석합니다. 일반 리졸버 로그에 프로세스 신원이 항상 있지는 않고, 상위 센서가 모든 클라이언트 캐시 적중을 복원할 수도 없습니다.
9. 조사·대응 순서
- 이름 해석 실패·특이 질의·리졸버 정책 변경·확인된 호스트 통신 중 무엇을 주장하는지 정합니다.
- 보강 전에 관측 지점·시간 범위·원문 필드를 보존합니다.
- NOERROR·NXDOMAIN·SERVFAIL·REFUSED·무응답을 분리하고 분모·기준선을 정합니다.
- NAT·전달·캐시를 고려해 호스트·리졸버 자료로 클라이언트를 식별합니다.
- 반환 주소·TTL·시각·프로세스로 이후 연결을 조사하되 공유 주소의 모호함을 남깁니다.
- 승인된 소프트웨어·점검·DNS 정책·배포 변경을 확인합니다.
- 악성 행위가 뒷받침되면 영향 호스트·정책 경로를 제한하고 증거와 범위가 정해진 DNS 통제를 적용합니다.
- 정상 의존성을 재시험합니다. DNS 차단은 기존 연결을 종료하거나 IP 직접 접속을 막는 것과 다릅니다.
긴급 판단상 필요하지 않다면 증거 수집 전에 캐시부터 지우지 마세요. 유용한 상태를 잃거나 운영에 영향을 줄 수 있습니다. 가능하면 해당 상태·정책과 조치 이유를 기록합니다.
10. 오프라인 증거 실습: 가상 기록 14건
events.jsonl과 analyze.py를 같은 폴더에 저장하세요. Python 3 표준 라이브러리만 사용합니다. 내용을 확인하고 실행합니다.
python3 analyze.py --self-test
자료는 정규화된 가상 워크시트이며 Zeek 원본 JSON·패킷·실시간 리졸버 기록·운영 탐지가 아닙니다. view·client·resolver·authority_soa·referral·cache_status는 교육 상황용 사용자 정의 필드입니다. 캐시 표시는 가상 상황에 명시한 사실이며 TTL만으로 추론한 결과가 아닙니다.
| 기대 결과 | 해석 |
|---|---|
| 총 14건: 클라이언트 구간 13·상위 구간 1 | 상위 기록을 14번째 클라이언트 응답으로 세면 안 됨 |
| 192.0.2.10: 응답 10·NXDOMAIN 4·40% | 원인 설명 후보, 보편적인 악성 기준값 아님 |
| 192.0.2.11: 응답 3·NXDOMAIN 0 | 작은 표본이며 안전 보증 아님 |
| NODATA 유사 AAAA 1건 | 같은 이름의 IPv4는 해석될 수 있음 |
| 클라이언트 TXT 응답 2건 | 자료형만으로 터널링 입증 불가 |
| 두 관측 지점에 Transaction ID 42 | 전역 트랜잭션·클라이언트 연결 키가 아님 |
실행 기록: 게시용 클라우드 환경에서 분석기와 제공 자료의 여섯 검증을 통과했습니다. –self-test는 수정하지 않은 제공 자료용입니다. 같은 스키마의 자체 워크시트를 보려면 이 옵션을 빼세요. 스크립트는 DNS 질의·캡처·캐시 변경·외부 접속을 하지 않으며 감염 판정을 출력하지 않습니다.
11. 해설과 범위를 제한한 Splunk 예제
poratl 오타가 가상 상황의 부정 답 두 건을 설명합니다. 나머지 생성된 듯한 이름 두 개는 프로세스·앱 검토가 필요하지만 DGA를 입증하지 못합니다. 서버 실패와 거부는 NXDOMAIN 네 건과 분리합니다. TTL 300인 A 답에서 10초 후 290인 캐시 적중 답이 나옵니다. 가상 자료에 명시한 캐시 표기가 그 해석을 뒷받침합니다.
상위 행의 출발지는 리졸버이며 한 질문을 반복합니다. 이를 워크스테이션 통계에 섞으면 안 됩니다. 실제 연결에는 리졸버 트랜잭션·캐시 문맥과 호환되는 시각·질문 증거가 필요하며, 같은 ID만으로 충분하지 않습니다.
사용자 정의 필드 추출·시각 파싱을 갖춰 워크시트를 실습 인덱스에 직접 수집했다면 아래 예제가 클라이언트 통계와 대응합니다.
index=dns_lab view=client
| stats count AS responses count(eval(rcode="NXDOMAIN")) AS nxdomain BY client
| eval nx_percent=round(100*nxdomain/responses,1)
| sort - nx_percent
이 검색은 문서 검토만 했고 Splunk에서 실행하지 않았습니다. 실제 Zeek에는 원본 필드를 의도적으로 매핑하고 실제 index·sourcetype·시간 범위를 선택해야 합니다. 워크시트 스키마가 운영 환경에 그대로 존재한다고 가정하지 마세요.
결과가 없으면 수집·시각 파싱·필드 추출·관측 지점부터 확인합니다. answers 누락이 빈 답과 같은 것은 아닙니다. JSON·스키마 오류나 검증 실패는 실습 실패이므로 파일·인자를 점검해야 하며 공격 판정으로 바꾸면 안 됩니다.
12. 자체 DNS 서비스에서 선택적으로 확인하기
승인된 시스템에 BIND dig가 있다면 자신이 관리하는 리졸버 IP와 이름으로 바꿔 사용하세요. 아래 192.0.2.53은 문서용 주소이지 접속할 실제 서버가 아닙니다.
dig @192.0.2.53 portal.example.test. A
dig @192.0.2.53 portal.example.test. AAAA
dig @192.0.2.53 portal.example.test. A +tcp
status·question·answer·authority·flags·응답 서버·시각을 비교합니다. 이 명령은 템플릿이며 게시 과정에서 실행하지 않았습니다. 특정 서버에 직접 보내는 dig가 브라우저 캐시·검색 접미사·암호화 리졸버 정책을 그대로 재현하지는 않습니다.
운영 권한 서버에 재귀 시험을 보내고 재귀가 제공된다고 가정하지 마세요. 알려진 정상 질의와 자신이 관리하는 존재하지 않는 이름으로 시작해 로컬 생성과 수집 경로 도착을 확인합니다. DNSSEC·DoH·DoT·장애 전환·AD 동작은 실제 소비자 환경에서 따로 시험해야 합니다.
13. 확인 문제와 학습 경로
- 상위 질의가 없으면 클라이언트도 아무것도 안 했나요? 캐시나 다른 해석 경로가 있을 수 있습니다.
- NOERROR인데 A가 없으면 이름이 없나요? 자료형·별칭·위임·부정 답 문맥을 확인해야 합니다.
- SERVFAIL이면 DNSSEC 문제인가요? 가능성은 있지만 코드만으로 원인을 모릅니다.
- DNSSEC면 질문도 숨고 목적지도 안전한가요? 둘 다 자동으로 성립하지 않습니다.
- NXDOMAIN 40%면 감염인가요? 표본·프로세스·기준선·다른 원인이 필요합니다.
- 조회와 IP가 일치하면 유출 확정인가요? 연결·앱 행위·영향을 따로 입증해야 합니다.
리졸버가 보내는 별개의 질문을 그리고, 응답 상태를 구분하며, 여섯 검증을 재현하고, 관측 한계를 포함한 증거 진술을 작성하면 완료입니다.
다음: Zeek·Suricata·Arkime, AD 검색, TLS 인증서 신원. WPAD와 NTLM은 다른 검색·인증 구조를 다룹니다. DNS와 LLMNR·NBNS를 혼동하지 마세요.
14. 공식 자료와 검증 범위
검토일: 2026년 11월 18일. 오래된 기반 RFC는 갱신 문서와 함께 읽으며 현재 리졸버 설정 전체 지침이 아닙니다. 제품 필드·옵션은 문서의 해당 버전 기준이며 모든 설치 환경에 같지 않습니다. 그림·워크시트·분석기는 직접 작성한 교육 자료입니다. 실제 DNS·센서·AD·암호화 DNS·운영 Splunk 검증은 수행하지 않았습니다.
- RFC 1034, 1987년 11월: DNS 개념, RFC 1035, 1987년 11월: 메시지·레코드.
- RFC 2308, 1998년 3월: 부정 캐시.
- RFC 7766, 2016년 3월: TCP DNS, RFC 6891, 2013년 4월: EDNS.
- RFC 4033, 2005년 3월: DNSSEC 기능·한계.
- RFC 7858, 2016년 5월: DoT, RFC 8484, 2018년 10월: DoH.
- RFC 2782, 2000년 2월: SRV, RFC 3596, 2003년 10월: IPv6 DNS, RFC 9460, 2023년 11월: SVCB·HTTPS.
- Zeek dns.log: 검토한 current 문서는 9.0.1로 표시됨.
- ISC BIND 9 dig 매뉴얼: latest는 개발 문서이므로 설치 버전 dig -v와 비교.
TCP 연결과 패킷 증거
이메일 발신자 인증과 피싱 조사
DHCPv4 임대와 IP 주소 조사
DNSSEC 검증과 SERVFAIL 조사
부모 DS와 자식 DNSKEY에서 응답 서명까지 대조하는 실습
이어서 읽기
DNS 부정 캐시 입문 · 권한 서버의 변경이 클라이언트에 늦게 보일 때 SOA TTL과 해석 실패 기록을 비교합니다.