Transcript [시스템제어]함수호출구조GDB_박정욱

Linux GDB를 이용한 Debug
2010.12.01
시스템제어
박정욱
다음 소스를 실행하면 오른쪽 그림과 같이 마지막에 semantation fault라는
오류로 프로그램이 끝나게 된다. Linux gdb로 이유를 알아 보겠다.
#include "HexaView.h"
void test(int, int);
int main()
{
int A = 0x12345678;
int B = 0xABCDEFBA;
printf("[%08X] : main() address\n", main);
test(A, B);
return 0;
}
void test2()
{
printf("test2\n");
}
void test(int a, int b)
{
int C
= 0x11223344;
int *p
= &C;
p = p+2;
*p = (int)test2;
PrintHexaNAscii(&p, 150);
}
처음 명령 실행시 break point(b)를
main 으로 설정하고 run(r) 명령으로
실행 시킨다.
실행 시킨 프로그램은 breakpoint main
에서 멈추게 된다.
info frame(i f)을 명령으로 현재
프로그램 메모리의 세부정보를
알 수 있다. 현재 main의
ebp는 0xffff9fc,
esp는 0xbffff9c4 이다
Step(s)명령으로 printf명령까지 진행
시키면 assembly 명령에 의해서
A는 ebp의 주소의 +4의 주소 0xbffff9f4
B는 ebp의 주소의 +8의 주소 0xbffff9f8의
주소에 값이 초기화 된다.
B
다음 진행하면 인자 A,B를 가지는
Test함수가 호출 된다.
A
ebp
test함수를 호출하는 명령에서는
함수의 본체로 넘어가는 명령 전에
인자 A,B의 값을 저장하고,
call 명령에서는 test함수가 종료 후
돌아갈 test return address를 eip에
저장 후 Jump명령을 실행한다.
test Return address
test의 인자 A,B
A
test함수의 ebp주소는 0xbffff9cc,
esp 0xbffff9b4이다.
eip에는 test 함수가 종료되고
return address인 0x8048479가
들어가 있다.
B
test 함수에서는 지역변수 C가 선언 및
초기화 되고, *p는 C의 주소값으로
초기화 된다.
변수C는 0xbffff9c8, p는 0xffff9c4의
주소를 가진다.
다음 명령에서 C의 값을 가지고 있는
p에 p+2 연산을 해서 p에 있는 c의 주소
0xbffff9c8을 0xffff9d0의 값으로 만든다.
주소0xffff9d0는 test return address의 값이
저장된 주소로서 p는 return address를
가리키게 되다
return address
c
P+2연산으로 변화
다음 명령에서 p값 즉 return address에
test2의 주소를 대입한다.
test의 주소값은 0x8048484이다
위의 그림에서 return address가 test2의 주소로 바뀐것을 볼 수 있다.
다음 실행에서 HexaView함수가
호출 되고 실행된다.
test함수의 실행이 끝나고 test는 main으로
return하여야 하지만 의도한대로 test2로
return하게 된다.
test2의 ebp는 return address가 있던
0xbffff9d0, esp는 0xbffff9c8이다.
하지만 정상적인 return이 이루어 지지않아
return address를 가지고 있어야 할
eip가 return address의 값 +4의 주소에
저장된 test함수의 인자A의 값 12345678
을 가지게 된다.
ebp
return address
step(s)명령을 실행하면 printf명령이 실행되어
Test2가 출력된 후 test2함수도 종료 하게 된다.
그리고 return address 12345678로 이동 하게 된다.
12345678이라는 주소로 이동하고 메모리에서 오류를 읽으켜 segmentation fault
라는 오류를 출력하고 프로그램이 종료 하게 된다.