CHAPTER 9 분산분석 9.1. 분산분석개념 분산분석 (ANOVA: Analysis of Variance) 이란종속변수 (dependent variable: 반응변수 : response variable) 의분산 (variation: 변동 통계에서는이를변수가가진정보라한다 ) 을설명하는독립변수 (independent: 설명변수 : explanatory) 의유의성 (significant: 설명력이있는가 ) 을알아보는방법이다. 반응변수는측정형변수이고독립변수들은분류형변수이어야하며이를처리효과 (treatment effect) 혹은인자 (factor) 라한다. 만약설명변수가측정형이면회귀분석 (10 장 ) 을실시하고종속변수가분류형이면교차분석 (8 장 ) 을실시하면된다. 설명변수의유의성은 F-검정을하고각설명변수의수준간차이는 Ad-hoc( 사후검정 ) 분석혹은다중비교 (multiple comparison) 를실시한다. 다중비교방법은 Tukey 방법, Scheffe 방법, Duncan 방법등이있는데사회과학에서는 Scheffe 방법, 자연과학에서는 Tukey 방법을가장많이사용한다. Tukey 방법이가장보수적인방법 ( 귀무가설을기각할가능성이낮다 ) 이기때문이다. 예를들어바이러스수 ( 개수 : 종속변수, 측정형 ) 에영향을미치는요인으로온도 (10 도, 0 도, 30 도 : 분류형 ) 와습도 (10%, 30%, 50%: 분류형 ) 를고려하여자료를수집하였다고하자. 물론자료를수집하는 ( 온도, 습도 ) 의수준결합에따라바이러스수를측정하면된다. ( 실험계획법 ) 이예제는 원분산분석 (two-way ANOVA: 요인이 개 ) 이된다. 우선분산분석표 (F-검정) 에의해요인둘중적어도하나가유의한지를검정하고 Type III 에의해각요인의
194 Chapter 9. 분산분석 유의성을검정한다. 온도 10 도, 0 도, 30 도간차이는있는가, 그리고습도 10%, 30%, 50% 간바이러스의차이는있는가를각각알아보는방법은다중비교혹은사후검정이라한다. (1) 모형 y ij = u + τ i + eij = μ i + eij, i = 1,, K k j = 1,, K, ni, (i= 요인의수준수, j= 반복수 ) y ij = i 범주 ( 집단 ) 의 j번째관측치, μ = 모집단총평균 y ( 표본자료전체평균 ) 로추정 μ = i 범주의평균 (i 집단평균에의해설명되는부분 ): i 료평균 ) yi 로추정 ( 요인수준 i 표본자 e ij = 집단평균에의해설명되지않는부분 () 변동 : ( y y) = ( y y ) + ( y y) ij ij i i SST = SSE + SStr ( 총변동 = 설명안되는변동 + 설명되는변동 ) 9.1.1. Layout 서로독립인모집단이 3 개이상인경우중앙위치를비교분석은이는일원배치 (one-way layout) 실험계획에대한분석방법과같다. 요인의수준이 k 인일원배치실험과 k 개의 모집단중앙위치에대한비교를위한자료수집을비교하면다음과같다.
9.1. 분산분석개념 195 요인 ( 처리효과 ) 과반응변수의관계를본다는것은요인수준에따른반응변수평균값의 차이가유의한가를검정하는것과같다. 9.1.. 실험설계 요인의수준이 t 개이고각수준의반복수를 nt 라고한다면다음과같은실험설계표를 만들고각셀에 1-n 까지번호를차례로매긴다. 난수표에의해실험순서를정하고실험을 실험단위 (unit) 에실시하면된다. 그러므로일원분산의실험설계는각셀에번호를부여 한후난수를이용하여실험순서를결정하므로이를완전임의실험설계 (CRD: Completely Randomized Design) 라부르기도한다. 비료종류 (A, B, C) 에따른벼수확량의차이를알아보기위하여실험을한다고하자. 반복 수는각비료에대해 4 번을한다면실험을위해총 1 곳의경작지가필요하다. 1 3 4 5 6 7 8 9 10 11 1 1 경작지가땅의비옥도가동일하다면 CRD 방법을이용하여실험하면된다. 난수표를이용하여임의로비료를배정할수도있지만총실험수가많지않으므로 1 장의종이에각
196 Chapter 9. 분산분석 번호를적고던진후하나씩선택하여실험을배정하면된다. 만약 1, 5,, 7, 1, 10, 3 순으로선택하였다면 1 A A 3 C 4 B 5 A 6 B 7 A 8 C 9 C 10 B 11 C 1 B 9.1.3. 일원분산분석표 (One-way ANOVA Table) 변동자유도자승합평균자승합 F- 검정 source DF Sum of Square Mean of SS F-Stattistic 처리효과 Treatment 오차 Error 총합 Total k 1 SStr = ( yi y) MStr = SStr /( k 1) n k SSE = SST SStr MSE = SSE /( n k) n 1 SST = ( yij y) MStr F = MSE ~ F( t 1, n k) 그러므로 F 검정통계량의값이커지면처리효과가존재한다고할수있다. 처리효과가존재한다는것은각수준별반응변수평균의차이가유의하다는것이다. F-검정은귀무가 설 H0 : μ 1 = μ =... = μk 의유의성을검정하므로귀무가설이기각된다는의미는집단간차 이가있는것을의미하지어떤집단간차이가존재하는지알수없다. 집단간차이를보기위하여사후검정 (Post HOC.) 혹은다중비교를실시하게된다. 만약범주가 개인경우는 ( 예를들면우리설문예제에서성별에따른시설물만족도차이가있는가?) 독립인두집단평균비교를위한모평균차이 t-검정과분산분석은동일하 다. ( t ( df = n) = F( df = (1, n)) 9.1.4. 사후검정 (Post-Hoc test) 혹은다중비교 (multiple comparison) 분산분석의 F- 검정은단지귀무가설 H = 0 : u1 = u =... uk 즉전체적인차이를검정하는 것이다. 그러므로수준별차이 (pair wise: 예 : H 0 : u1 = u3 ) 가있는지혹은수준의선형결합
9.1. 분산분석개념 197 대비 (contrast: 예 : H 0 : u 1 u + u3 = ) 의차이가있는지검정할필요가있는데이를사후검 정혹은다중비교 ( 대비포함 ) 라한다. 사후검정이므로 F-검정결과와관계없이 ( 귀무가설을채택하더라도 ) 시행하게된다. 다중비교에서는여러개의가설을동시에검정하므로유의수준을조정해야한다. 이를조정된실험유의수준 (controlled experimental error rate) 이 라하고 1 (1 α) c 이다. 여기서 c 는가설수를의미하며, pair wise 다중비교의경우 c = k( k 1) / 가된다. (1)Fisher s Least Significant Difference pair wise ( 두수준별평균비교 ) 검정에사용한다. LSD 를구하고평균의차이가그보다크면귀무가설을기각한다. 이는다중비교방법에해당되지않는다. ()Tukey W procedure: studentized range distribution W = max( y i ) min( y ) 이용하여 q = w / s 표작성한다. 가장보수적인방법으로자연과 i 학에서가장많이이용한다. (3)Student-Newman-Keuls procedure Tukey 방법의변형한것으로표만다르다. 즉임계치 (critical value) 만차이가있고방법은 Tukey 와동일하다. (4)Duncan Multiple range test Tukey 방법과매우유사하나수준별표본평균을크기순으로나열하여차이가가장큰 것을비교해가면서유의수준을 1 (1 α) r 으로조정해가면서검정한다. r 은검정단계 순서이다. 귀무가설을기각할확률이매우높아자주사용하지않는다. (5)Scheffe s S method 대비 (contrast) 까지고려한다중비교방법이다. 사회과학분야가장많이이용된다. (6)Dunnett s procedure 처리효과의수준하나가 control ( 실험집단 ) 인경우 ( 예 : placebo 집단, 교육을하지않는집단, 이전약투여집단 ) 이집단과다른집단들을 pairwise 비교할경우사용된다.
198 Chapter 9. 분산분석 9.1.5 예제자료 다음은 3 개호수의산소량의차이가있는지알아보기위하여각호수의중앙에서깊이 1m 의물로부터산소량 (ppm) 을측정한자료이다. 호수에서위치에따라산소량의차이가있을 것이므로 10 곳을선택하여각산소량을측정한것이다. Lake Observation 1 0 1 3 1 3 4 1 5 1 3 4 6 8 7 5 3 4 5 3 14 6 5 18 19 1 16 0 30 등분산가정검정 : 분산분석에서등분산가정은 Hartley s test 를이용하면된다. 그러나일반적으로분산분석에서는등분산가정을검정하지않는다. 귀무가설 : H 0 : σ 1 = σ = K = σ t max( si ) 검정통계량 : Fmax = ~ F( 자유도 : 분자표본크기 1, 분모표본크기 1) min( s ) i means 문장은다중비교를위한것이다. LINES 옵션은집단간평균의차이가유의한것을구별하기위해사용되었다.
9.1. 분산분석개념 199 유의확률이 0.0001 미만이므로호수에따른산소량의차이는매우유의하다. 이제호수별 차이를보기위하여 Scheffe 다중비교결과를보자. 다중비교는분산분석표의 F- 검정결 과가유의하지않더라도실시한다. 알파벳이같은범주 ( 집단은 ) 차이가없음을의미한다. 호수 3 의산소량평균은 1, 호수 는 4.6, 호수 1은. 이다. 호수 1 과 의산소량차이는없으나 ( 알파벳이 A로동일 ) 호수 3 과호수, 호수 3 과호수 1은산소량의차이가존재한다. 집단별 ( 호수 ) 산소량의평균과표준편차를구하려면 TABULATE procedure 를사용하는것이편리하다.
00 Chapter 9. 분산분석 9.. 설문분석에적용 설문조사에서는분산분석이이용되는경우는리커드척도문항의점수가 ( 종속변수 ) 인구학적변인, 혹은일반객관식선택문항 ( 설명변수, 요인 ) 에따라차이가있는지알아보고자할때이다. 일반적으로분산분석은요인 ( 설문에서는문항으로생각하면된다 ) 이 개이상인경우도다룬다. 이를 원 (two-way) 분산분석, 다원 (multi-way) 분산분석이라한다. 설문분석에서도인구학적문항이여러개인경우가많아이문항을동시에고려하는다원분산분석이필요할수있다. 그러나정말필요한가? 1교차항 ( 두요인간결합 ) 을고려하는경우해석이용이하지않고 실험계획에의해얻어진자료가아니므로각문항을하나씩개별적으로분석하는일원분산분석 ( 요인이하나 ) 이면충분하다. 그러므로설문조사에서분산분석을사용할때는분류형문항 ( 일반적으로인구학적변인문항 ) 하나, 리커드문항인종속변수인일원분산분석을실시한다. 설문조사분석에서분산분석을실시한다는것은인구학적변인에따른리커드척도문항의평균점수차이가있는지결정하는것이다. 예를들어선택하는전공 (Q7: 중국, 경제, 정보통계 ) 에따른입학한것에따른만족도 (Q4) 의차이는있는지를알아보고자할때분산분석을실시하면된다. 이때분산분석을실시한다는것은중국전공선택학생들의입학만족도평균, 경제선택전공자의만족도평균, 정보통계전공자의만족도평균의차이가있는지알아보는것이다. 예제설문에서다음을실시해보자. 성별 (Q1) 에따른 대학교전체적만족도 (Q5) 의차이가있는가? (F 검정 : 특히수준이 개인경우 F-검정은 t-검정과동일하다. 왜냐하면 F ( df = 1, n) = t ( n) 이므로, 즉두모집단평균차이비교 t-검정은 F-검정과동일하다.) 여기서는집단의범주가 개인경우에는 PROC TTEST 를이용하여분석하기로한다. 선택한전공 (Q7) 에따른 대학교전체적만족도 (Q5) 의차이가있는가? 선택한전공 (Q7) 에따른요인분석결과묶은그룹만족도 ( 강의실만족도 : LECTURE Q5, Q6, Q7, Q8) 의차이는있는가?
9.. 설문에분산분석적용 01 9..1. SAS (1) 기초통계량 우선문항의범주각각에대한평균과분산을구하면보고서작성에유리하다. 강의실만족도 (LECTURE) 와정보시설만족도를구하였다. Q1 의범주 (class) 에의해변수 ( 문항 ) Q5 의평균과분산을 (mean, std) 출력하게한다. ALL 의의미는범주를고려하지않고총평균을구하는것이다. TABLE 문에서, 앞은행을뒤는열을의미하며 * 의의미는교차의의미이다. 여자 (Q1=1) 에비해남자의한남대만족도 (Q5) 가높다. 물론유의적차이검정은 t-검정 ( 분산분석 ) 해야겠지만
0 Chapter 9. 분산분석 강의실만족도는중국전공 (Q7=1) 이 대만족도 (Q5) 는정보통계전공이가장높았다. 물론통계적유의적차이에대한검정은분산분석을해야하지만 ()t-검정( 집단이두개 ) 집단이 개인경우에는 t-검정이실시하면된다. 다음은 Q1( 성별 ) 에의한한남대학교만족도차이가있는 t-검정을실시한프로그램이다.
9.. 설문에분산분석적용 03 t-검정에서는두모집단의분산이같은지검정하여만약등분산가정이만족하면일반적인 t-검정방법을등분산가장이만족하지않으면 ( 이분산 ) 수정된 t-검정 (satterthwaite) 을실시한다. 위의예제에서등분산가정유의성검정결과유의확률 p-값이 0.4988 이므로 Method=Pooled 방법의검정 ( 일반적인 t-검정 ) 을사용하여두모집단의평균차이는있다고판별한다.(p-값 =0.0396) 그러므로남자가여자에비해한남대학교에대한만족정도가높다. ( 이전페이지 : 남자 =4.9, 여자는 3.79) 두모분산이같다는가정이왜필요한가? 모집단1과모집단의평균은동일하지만모집단1로부터뽑은표본은화살표 부분에서도관측된다. 그러므로표본에의한가설검정결과모집단평균은같지않다는결론에도달할수있다. 그러므로모분산이같은경우와같지않은경우나누어검정하게된다. 등분산가정검정은두집단의표본분산비를이용하여검정한다. 모집단 1 모집단 (3) 분산분석 (ANOVA: 3 집단이상 ) CLASS 문은요인변수지정한다. MODEL Q5=Q7과 MODEL LECTURE =Q7 모형 개를분석한다.
04 Chapter 9. 분산분석 선택한전공에따른한남대학교만족도의차이는없다. Scheffe 사후분석결과각집단간 pairwise 차이도존재하지않았다. 출력결과가 Q7 문항의보기순이아니라평균크기순임을유의하기바란다. Q7=3( 정보통계 ) 의한남대만족도 4.4 로가장높았고 Q7=1( 중국전공 ) 3.83 으로가장낮았다. 물론통계적인유의서차이는없었다. 선택한전공에따른강의실만족도차이도없었으며 Scheffe 사후분석결과집단간 pairwise 차이도존재하지않았다. ( 결과생략 ) 만약사후검정결과차이가있다면다음과같이나타난다. 변수 age 가 60 대 (60+) 과 80 대, 80 대와 70 대의차이는유의하지않으나 60 대와 70 대 는차이가있음을알수있다. 9... SPSS 전공선택에 (V31) 따른한남대학교만족도 V5 의차이가있는지분산분석하자.
9.. 설문에분산분석적용 05 기술통계 V5 1 3 합계 평균에대한 95% 신뢰 구간 N 평균 표준편차 표준오차 하한값 상한값 최소값 최대값 109 3.83 1.5.1 3.60 4.07 1 7 9 4.33 1.41.47 3.5 5.4 3 7 10 4.40.97.31 3.71 5.09 3 6 18 3.91 1.5.11 3.70 4.13 1 7
06 Chapter 9. 분산분석 분산분석 V5 집단 - 간집단 - 내합계 제곱합 자유도 평균제곱 F 유의확률 4.67.314 1.495.8 193.48 15 1.547 198.055 17 다중비교 종속변수 : V5 Scheffe (I) V31 1 3 (J) V31 3 1 3 1 95% 신뢰구간 평균차 (I-J) 표준오차 유의확률 하한값 상한값 -.50.43.515-1.57.57 -.57.41.391-1.58.45.50.43.515 -.57 1.57-6.67E-0.57.993-1.48 1.35.57.41.391 -.45 1.58 6.67E-0.57.993-1.35 1.48 각집단간차이는유의하지않았다. 모든유의확률값 (p- 값 ) 이 0.05 보다많이크다. 9.3. 보고서작성 보고서작성은다음과같다. 만약출신지역 ( 서울, 경기, 그외지역을하나로묶어 3 지역 ) 에따른한남대학교수준 (Q) 만족도의차이가있는지알아보자. 서울, 경기, 그외지역을하나로묶는프 로그램. MODEL Q=Q3, MODEL Q3=Q3, 4 개모 형에대한분산분석을실시한다.
9.3. 보고서작성 07 다음은 4 개분산분석중 MODEL Q=Q3 결과이다. 보고서를작성할때는평균은물론분산도필요하므로다음프로그램을돌린후분산분석결과를이용하여표를완성한다.
08 Chapter 9. 분산분석 ( F 통계량 : 5.05, 유의확률 : 0. 0077 지역옆의알파벳은 Scheffe 의다중비교결과를표시한것이다. 충남지역의출신자의한남대수준만족도는가장높고다른지역과차이가유의함을알수있다. 분산분석의 F-통계량과유의확률 (p-값) 은표나그래프옆이나아래적어주면된다.
Exercise 09 [ 연습문제 ] (1) 출신지역 ( 대전, 충남, 기타지역 3 집단 ) 에따른교양영어 ( 의사소통영어 : Q0) 에대한만족도차이가있는지분산분석하시오. 사후검정방법으로 Scheffe 방법을이용하시오. ()7 장요인분석결과교양과목만족도 4개문항묶인결과에대해출신지역에따른차이가있는지분산분석을실시하시오. 사후검정방법으로 TUKEY 방법을이용하시오. (3) 팀프로젝트설문지에서인구학적변인에따른리커드척도문항의차이가있는지분석하고결과를정리하시오. 요인분석결과묶인문항은그룹에대해분산분석하시오.