http://www.nchovy.kr/forum/2/article/440
디버거의 구현과 원리
악성 코드를 분석하거나 취약점을 분석하면서 WINDBG나 OllyDbg, Immunity Debugger 등 다양한 디버거를 사용하고 계실텐데요. 오늘은 간단하게 디버거를 어떻게 구현하는지 정리해보도록 하겠습니다. 디버거의 동작 원리를 알아두면 퍼저를 만들어서 자동으로 충돌 정보를 수집한다거나, 안티 디버깅 코드를 자동으로 제거하는 등 다양한 활용이 가능합니다.
디버그 이벤트
디버거는 통상적으로 디버깅 이벤트가 발생할 때까지 기다렸다가, 이벤트가 발생하면 디버깅 이벤트를 살펴보고 처리하는 식으로 동작하게 됩니다. 디버거가 받게 되는 디버깅 이벤트로는 아래와 같은 것들이 있습니다:
브레이크 포인트에 걸릴 때
메모리 접근 제한 위반
디버그 되고 있는 프로그램에서 예외가 발생할 때
그 외 스레드의 생성이나 소멸, 동적 라이브러리의 로딩 등
브레이크 포인트의 유형
소프트 브레이크 포인트
소프트 브레이크 포인트는 응용 프로그램을 디버깅할 때 가장 흔하게 사용하는 브레이크 포인트입니다. 소프트 브레이크 포인트는 1바이트짜리 명령어인 0xCC를 이용해서 디버그 되고 있는 프로세스의 실행을 멈추고 제어권을 디버거의 처리기로 넘기도록 되어 있습니다. CPU가 실행 도중 0xCC를 만나게 되면 INT 3이 걸리게 됩니다.
따라서 디버거는 소프트 브레이크 포인트를 다음과 같은 순서대로 이용합니다.
사용자가 지정한 주소의 값을 프로세스 이미지에서 읽어서 저장해놓고, 그 자리를 0xCC로 덮어씌웁니다.
CPU가 명령어를 실행하다가 해당 위치에서 0xCC를 만나게 되면 INT 3을 발생시키고, 운영체제는 디버거에게 디버깅 이벤트를 넘겨줍니다.
디버거는 이벤트를 처리한 다음 백업해놨던 값을 다시 프로세스 이미지에 덮어씌우고, 디버그 중인 프로세스의 실행을 재개합니다.
따라서 이 경우에는 프로세스 이미지의 체크섬을 검사하면 디버거가 붙어있는지 아닌지 알 수 있습니다. (이 외에도 다양한 디버거 탐지 기법이 있습니다.)
하드웨어 브레이크 포인트
CPU에는 디버그 레지스터가 DR0부터 DR7까지 존재합니다. DR0부터 DR3까지는 브레이크 포인트를 걸 주소를 저장하는 용도로 사용되고, DR4와 DR5는 예약되어 있으며, DR6은 디버그 상태 정보를, 그리고 마지막으로 DR7은 브레이크 포인트의 조건을 설정하는데 사용됩니다. 아래와 같은 조건들을 처리할 수 있습니다:
특정 주소의 명령이 실행될 때
특정 주소를 읽고 쓸 때
하드웨어 브레이크 포인트는 INT 1이 걸립니다. 하드웨어 브레이크 포인트가 좋긴 하지만 동시에 최대 4개까지 밖에 사용할 수 없는 단점이 있습니다.
메모리 브레이크 포인트
메모리 브레이크 포인트라는게 따로 존재하는 것은 아니지만, 메모리 페이지의 퍼미션을 설정함으로써 마치 브레이크 포인트인 것처럼 사용할 수 있습니다. 일반적으로 잘 알고 있는 읽기, 쓰기, 실행 권한 외에도 보호 (Guard) 권한 설정이 가능합니다. Guard를 걸게 되면 1회에 한해서 페이지 접근 시 예외가 발생하게 됩니다. 메모리 영역의 변화를 관찰하려고 할 때 특히 유용하게 사용할 수 있는 기법입니다.
Win32 API
여기서부터는 디버거 구현에 관련된 API를 간략히 소개합니다. 자세한 내용은 링크된 MSDN 자료를 참고하시기 바랍니다.
디버거 및 디버그 프로세스 설정
CreateProcess: dwCreationFlags 매개변수에 DEBUG_PROCESS 플래그를 설정합니다.
OpenProcess: dwDesiredAccess 매개변수를 PROCESS_ALL_ACCESS로 설정합니다.
DebugActiveProcess: 이미 떠있는 프로세스에 디버거를 붙일 수 있습니다.
DebugActiveProcessStop: 프로세스에서 디버거를 떼어냅니다.
WaitForDebugEvent: 지정된 시간 동안 DEBUG_EVENT를 기다립니다.
ContinueDebugEvent: DEBUG_EVENT 처리를 마친 뒤 실행을 재개하려고 할 때 호출합니다.
CPU 레지스터 상태 조회 및 설정
CPU의 실행 문맥은 스레드별로 유지됩니다. 아래의 API들을 사용해서 스레드 목록을 열거하고 CPU 상태를 조회하거나 설정할 수 있습니다.
OpenThread: 스레드 ID를 이용하여 스레드 핸들을 얻을 수 있습니다.
CreateToolhelp32Snapshot: OpenThread를 호출하려면 먼저 스레드 ID를 알아야 되는데, 이 함수를 통해 프로세스 내의 힙, 모듈, 스레드 정보들을 얻어내는데 필요한 스냅샷 핸들을 얻을 수 있습니다.
Thread32First: 첫번째 스레드 정보를 THREADENTRY32 구조체로 가져옵니다.
Thread32Next: 다음 스레드 정보를 THREADENTRY32 구조체로 가져옵니다.
GetThreadContext: CPU 레지스터 상태와 플래그 등을 포함한 실행 문맥을 조회합니다.
SetThreadContext: 레지스터나 플래그 등 원하는대로 CPU 실행 문맥을 재설정합니다. 이 함수를 호출할 때 스레드는 멈춘 상태이어야 합니다. (실행 도중 바꾸면 어떻게 될지 모름)
SuspendThread: 스레드를 일시 정지합니다.
ResumeThread: 스레드 실행을 재개합니다.
소프트 브레이크 포인트의 구현
ReadProcessMemory: 프로세스의 메모리 영역에서 데이터를 읽습니다. 이 함수를 통해 소프트 브레이크 포인트를 걸 주소의 값을 백업합니다.
WriteProcessMemory: 프로세스의 메모리 영역에 데이터를 씁니다. 이 함수를 통해 원하는 주소에 0xCC를 써서 나중에 인터럽트가 걸리도록 합니다.
하드웨어 브레이크 포인트의 구현
위에서 언급했던 SetThreadContext()를 통해 디버그 레지스터를 설정합니다.
메모리 브레이크 포인트의 구현
GetSystemInfo: 먼저 페이지 크기를 조회합니다.
VirtualQueryEx: MEMORY_BASIC_INFORMATION 구조체에 특정 주소가 속한 페이지의 정보를 조회합니다.
VirtualProtectEx: MEMORY_BASIC_INFORMATION의 Protect 멤버에 PAGE_GUARD를 설정해서 호출하면 가드가 걸립니다.
파이썬에 익숙하다면 PYDBG 코드를 한 번 살펴보세요.
이 글은 Gray Hat Python을 참조하여 작성되었습니다.
by xeraph
2009-05-06 01:46:25
미분류
트랙백 (2)
덧글 (0)
트랙백 주소 : http://nchovy.kr/forum/2/article/440/trackback
Tracked from nchovy's me2DAY 2009-05-06 10:49:46
디버거의 구현과 원리
Tracked from ownrisk's me2DAY 2009-05-07 10:28:59
NCHOVY 인터넷 스톰 센터 : 디버거의 구현과 원리