제 강계량경제학 Review Par I. 단순회귀모형 I. 계량경제학 A. 계량경제학 (Economerics) 이란? i. 경제적이론이설명하는경제변수들간의관계를경제자료를바탕으로통 계적으로추정 (esimaion) 고검정 (es) 하는학문 거시소비함수 (Keynse). C=f(Y), 0<f < : 경제이론. C = + Y+ : 계량경제모형 a. 자료를바탕으로변수들의관계를정량적으로추정하기위해서는 보다구체적인함수형태가요구됨 b. 변수들의관계를확정적으로성립하는관계가아닌통계적으로성 립하는관계로봄 : 이라는확률변수가오차항 (error erm) 으로포 함됨 c. C: 종속변수 (Dependen Variable), Y: 설명변수, 독립변수,,, : ( 알려 지지않음 ) 모수 (unnown parameers) 3. 경제자료 : 변수들에대한관측치 a. 통제된자료 : 통제된실험으로부터산출된자료 b. 통제되지않은자료 : 통제되지않는실험의결과에서산출된자료 c. 시계열자료, 횡단면자료, 패널자료 B. 실증연구의절차 i. 주장하고검증받고자하는경제적이론의제시 변수들간의수학적관계 로나타남 이러한경제적이론을바탕으로계량경제모형을제시 i 필요한자료를습득하고계량경제모형을추정, 즉모수들의값을추정 iv. 추정결과로부터경제적이론이제시하는변수들의관계에대한통계적검 정을실시 v. 결과를해석하고평가
II. 단순선형회귀모형 A. 단순선형회귀모형의가정 y,,..., i. E 0 E y i V V y iv. Covi, j0 i j Cov y, y 0, i j v. 는확률변수가아니며, 는적어도두개의다른값을가져야한다. vi. N 0, ( 경우에따라필요한가정임 ) B. 단순회귀모형에서의모수의추정 i. 단순회귀모형 y i 부터모수들의값을추정. 추정된값을 b, 음 a. 여기서 ˆ,,..., 에서관측된 와 y 의자료로 b 라하면 y b ˆ b,,..., ˆ 로쓸수있 y b b 로정의되면잔차 (residual) 라고하고, y b b 를적합선 (fied line) 또는회귀선 (regression line) 이라 고함 < 그림 > 알려지지않은실제 (rue) 회귀선과추정된회귀선 최소제곱추정 (he Leas Squared Esimaion). 잔차의제곱의합을최소로만들어주는모수의값을찾는추정방법 a. 관측치들의적합선으로부터의수직거리의합을최소화시켜주는적합선을찾는것임 b. min ˆ y b b Sb, b b, b
i. S b, b b S b, b 0 y b b 0 b c. 정규방정식 (normal equaions) i. 0 y b b 0 b b y b b y. 단순선형회귀모형에대한최소제곱추정치 a. b y y y y b y b b. c. y 들이실현된관측치가아닌확률변수일때, b, b 는추정치 III. 가아닌추정량이고이를최소제곱추정량이라고함최소제곱추정량의특성 A. 단순선형회귀모형에대한가정 i) v) 가충족되는경우단순선형회귀모형에대한최소제곱추정량은다음과같은성질을갖는다. i. 불편추정량. Eb, Eb 일치추정량. V b 0, as. V b 0 as i iv. 선형추정량. b w y, b w y a. 즉추정량이확률표본의선형결합으로표현되는추정량임 BLUE (Bes Linear Unbiased Esimaor) 3
. 가우스 - 마코프정리 (Gauss-Marov heorem): 단순선형회구모형에대한 가정 i) v) 하에서, 에대한최소제곱추정량은모든선형불편 추정량가운데가장작은분산을갖는다.. 선형불편추정량의범주내에서최소제곱추정량외의다른추정량을고려할필요는없다. B. 단순선형모형에대한가정 vi) ( 정규분포에대한가정 ) 이충족되는경우최소제곱추정량은다음과같은분포를한다. i. N, b, b N,. 정규분포를하는독립인두확률변수의선형결합은정규분포이며, 정규분포를하는두확률변수의공분산이 0일때, 두확률변수는독립임 vi) 을가정하지않더라도충분히 가크면중심극한정리에의해위와같은분포로최소제곱추정량의분포를근사할수있음 C. 오차항의분산 에대한추정 i. 잔차를 ˆ y b b 오차항에대한대용변수로간주할수있으며, 이를이용하여오차항의분산에대한추정량을구축할수있음 i ˆ ˆ. 에대한불편추정량. 로나누어주는것은잔차의자유도로나누어주는것이며 는 추정하고자하는모수의숫자와같다 이를이용해서최소제곱추정량의분산에대한추정량역시도출할수있음. V b ˆ, V b ˆ a. 표준편차에대한추정량을특별히표준오차 (sandard error) 라함 IV. 단순회귀모형에서의추론 A. 구간추정량 ( 신뢰구간 ) 의도출 i. 오차항의분산 이알려진경우, 가정 vi) 하에서 b. Z N0, SD b. 예컨대 95% 구간추정량은다음과같이도출됨 4
3. P Z.96.96 0.95 b P SDb.96.96 0.95 b P SDb.96.96 0.95 P b.96sd b b.96sd b 0.95 b.96 SD b, b.96 SD b 실제로는 를알수없으므로, 그불편추정량을이용함. b, 단 SE b SE b ˆ a. V ˆ ˆ b. b, b 와 ˆ 는서로확률적으로독립 c. Z V b SDb ˆ b SE b. 예컨대, 95% 구간추정량은다음과같이도출됨 3. P 0.05, 0.05, 0.95 b P 0.05, 0.05, 0.95 SE b, b SE b b SE b 0.05, 0.05, B. 가설검정 i. 양측검정. 가설 : H0 : c, H: c. b c 검정통계량 : SE b 5
3. 유의수준이 로주어졌을때, 기각역은,,,,, 즉 이거나,, 일경우, 귀무가설을기각함 < 그림 > 양측검정 단측검정. 가설 : H0 : c, H: c 또는가설 : H0 : c, H: c. b c 검정통계량 : SE b 3. 유의수준이 로주어졌을때, 기각역은,,, 즉, 일경우, 귀무가설을기각함 4. 가설 : H0 : c, H: c 또는가설 : H0 : c, H: c 일경우, 기각역은,, 이며, 즉, 일때기각함 i P 값 (p-value). p 값은주어진검정통계량의값에대해귀무가설을기각하기위한최소크기의유의수준임 a. 양측검정의경우 : p value P, 단 는검정통계 량의표본값 b. 우측단측검정의경우 : p value P 6
c. 좌측단측검정의경우 : p value P iv. 유의성검정 (es of significance). 설명변수과종속변수간에통계적으로유의한관계가있는가? 에대한검정. H0 : 0, H: 0 b 3. : 컴퓨터에서자동적으로보고함 SE b < 그림 > Eviews 추정결과예 C. 최소제곱예측 i. 추정결과를예측에활용할수있음 0 이주어졌을때, y0 0 0 에 대한 최소제곱예측 ( 값 ) 은 ŷ0 b b0로주어짐 i f yˆ 0 y0 를예측오차라하며 V f E f 0, 임 0 0. y0 에대한 95% 예측구간은충분히큰관측치나정규분포의가정하에, 7
서, yˆ SE f, yˆ SE f 0 0,, 로주어짐 V. 단순선형회귀모형의기타이슈들 A. 결정계수 (coefficien of deerminaion) i. 종속변수 y 의변동성을설명되는부분과설명되지않는부분으로분할 종속변수 y 의총변동성 : i 설명되는변동성 : ˆ iv. 설명되지않는변동성 : SSE) v. SS = SSR + SSE : 분산분석 y y : oal Sum of Squares (SS or SS) y y : Regression Sum of Squares(RSS or SSR) y yˆ ˆ. 모형전체의설명력을나타내는지표 0 R R :Error Sum of Squares(ESS or SSR SSE SS SS : 결정계수. 3. 단순회귀모형에서의결정계수는설명변수와종속변수간의표본상관계수의제곱과같음 B. 단위의변경과추정결과. 변수들의측정단위를변경하는것은결정계수는 검정통계량의값에영향을주지않는다.. 의단위변경은 의계수에대한추정량의크기에만영향을줌 a. y c c 3. y 의단위변경은모든계수의추정량의크기에영향을주며, 오차항분산의추정량의크기에도영향을줌 y a. c c c c C. 단순선형회귀모형의여러가지형태 i. log-log 모형 : ln y ln. : y 의 에대한탄력성 역수모형 : y ln y i log- 선형, 선형 -log:, y ln 8
Par II. 다중회귀모형및기본가정의완화 I. 다중회귀모형 A. 다중회귀모형에대한가정 y,,..., ( ) 관측치의수, 설 i. K K 명변수의수 K-, 추정모수의수 K 개별모수들의의미 : 예컨대, E y : 다른설명변수들이일정할때, 의한 단위변화에대한종속변수의평균값의변화 즉다른변수들의영향력이통제 (conrol) 된상황에서첫번째설명변수의종속변수에대한영향력을나타내는값임 E 0 i V V y E y iv. Covi, j0 i j v. K K Cov y, y 0, i j 는확률변수가아니며, 다른설명변수 ( 들 ) 의정확한선형함수가아님 ( 즉완전한공선성 (colineariy) 가존재하지않음 ) 만일 와 3 간에정확한선형관계, 즉 a b3가성립한다면이들설명변수의종속변수에대한개별적인영향력을추정하는것은불가능함 ( 예 : 고정투입생산함수 ) ( 경우에따라필요한가정임 ) vi. N 0, B. 다중회귀모형 ( 설명변수가두개인경우 ) 에대한최소제곱추정 i. min ˆ y b b b Sb, b, b b, b, b3 3 3 3. b yb b33. b * * * * * * * y3 y33 * * * * 3 3, 단 y y y,, * * * 3 3 3 3. b * * * * * * * y3 y3 * * * * 3 3 3 9
최소제곱추정량의성질. 불편추정량. 일치추정량 3. 선형추정량 4. BLUE (Gauss-Marov heorem) 5. 기타성질 a. 최소제곱추정에의한회귀직선은,, b. ˆ 0, ˆ 0, ˆ ˆ y 0 y 을통과함 3 i 최소제곱추정량의분산. var( b ) r3 ( ), var( b ) 33 r3 ( ), 단 r 3 3 3 3 3 와 3 간의표본상관계수 :. 최소제곱추정량의분산은다음과같을때작아짐 a. 오차항의분산이작을수록 b. 표본의크기가클수록 c. 해당설명변수의값이퍼져있을수록 d. 설명변수간의상관관계가 0에가까울수록 C. 다중회귀모형 ( 설명변수가두개인경우 ) 에대한구간추정및가설검정 i. 가정 vi) y N e N ~ ( K K), ~ (0, ). b z ~ N0,, for,,, K var b 오차항의분산을모를경우이를이용할수없음. 오차항의분산에대한불편추정량 a. b. ˆ ˆ K Kˆ K 0
3. 이를이용하여최소제곱추정량 b 의표준오차 Var ( b ) 을구함 a. b var ˆ b ~ K 4. 이를이용하여, 단순회귀모형에서와마찬가지로개별모수에대한구간추정량과개별모수에대한가설검정 ( 양측가설, 단측가설 ) 을수행함이러한 검정은개별모수뿐아니라개별모수들의선형결합에대한가설검정에도이용될수있음 H c c, H0 :373, ec. 0 : i i 0. cb c i i 0 ~ K SE cibi i 두개이상의가설을동시에검정하고자하는경우 F 검정을사용, ec. H0 : 3 0, H0 : c ii c, cii c, c3ii c3. F-검정의원리 a. F-검정은귀무가설에의해부과되는모수들에대한제약하에서의회귀모형으로부터의잔차의제곱의합과아무런제약이없을때의잔차의제곱의합을비교하는것에기반함 b. 귀무가설이옳다면두회귀모형으로부터의잔차의차이는없어야할것이며, 두잔차의차이가클수록귀무가설이옳지않은것으로판단할수있음 3. F-검정통계량의구축 a. 귀무가설이참이라는가정하의 ( 제약을부과한 ) 모형에서의잔차의제곱의합을 SSE R (Resriced sum of squared errors) b. 아무런제약이부과되지않은원래의모형에서의잔차의제곱의합을 SSE U (Unresriced sum of squared errors) SSE R - SSE U 0 (Why?) c. J 를귀무가설에서의가설의수, 즉부과되는제약의수라고하면 V SSE SSE R U ~ i. 귀무가설하에서 J V SSE U ~ K i V 와 V 는확률적으로독립임
d. 따라서귀무가설하에서 U V J SSER SSEU J F V K SSE K F J, K 4. F-검정 a. 대립가설하에서이렇게계산되는 F값은커질것임 (F검정은항상기각역이우측꼬리에놓이는검정임 ) < 그림 > F 검정 b. 귀무가설의가설이하나일경우 ( 즉제약이하나일경우 ) 검정과 F 검정의결과는같음 F c. 모형의유의성검정 i. H0 : 0, 3 0,, K 0 H : a leas one of he is nonzero F SSER SSEUK SSE K U F J, K D. 제한최소제곱추정 (Resriced ) i. 어떤생산과정이 CRS인 Cobb-Douglas 형태라고알려져있음 log y log log 에서 3. 3 3 정보를이용하여추정 a. log y 3 3. 제한최소제곱추정량의성질 y 이라는비표본
a. 부과한제약이옳지않다면추정량은 bias됨 (cos) b. 그분산은원래의모형에대한추정량의분산에비해작아짐 (benefi) E. 모형의설정 (Model Specificaion) i. 변수의누락. rue model: W E 3M ( 임금, 경험, 동기부여 ). Esimae W E a. 적절한변수의누락은모형에대한잘못된제약부과와같음 i i. 3 0 이라는제약이옳지않음에도불구하고이를부과함 추정량의편향및분산의축소를낳게됨 관련없는변수의포함. rue model: W E 3M. Esimae W E 3M 4C ( 자녀의수 ) a. 사실 4 0 i. 관련없는변수의포함은추정량의불편성에영향을주지는 않음 원래모형에대한추정량에비해분산의크기가커짐 공선성 (Colineariy) 의문제. 설명변수혹인독립변수들상호간에상관관계가존재할수있음 a. 특히통제되지않는자료의경우이러한상관관계를통제할수없 으며, 각변수의영향력을분리해내는데문제가발생할수있음. 공선성의효과 a. 완전한공선성의경우최소제곱추정결과를얻을수없음 b. 높은공선성은표준오차를크게하고따라서신뢰구간을넓힘 c. 이는높은결정계수값과유의성있는 F 값에도불구하고개별 값은유의성이없는것으로나타내게함 d. 몇몇관측치또는유의성없는변수의삭제또는포함에결과가 매우민감하게변함 3. 공선성의판단 a. 두설명변수간의높은상관관계 (0.8 또는 0.9이상 ) b. 한설명변수를나머지설명변수들에대해회귀분석시높은결정계 수의값 (0.8 이상 ) c. 개별 값들의통계적유의성이없음에도유의성있는 F값 4. 공선성의완화 a. 자료의추가적확보 b. 적절한경제적또는통계적제약의부과 3
II. 기본적가정들의완화 A. 이분산성 (Heerosedasiciy) i. 동분산성과이분산성 < 그림 > 동분산성과이분산성 Var.. 이분산성하의최소제곱추정량 a. 선형추정량, 불편추정량 b. 더이상 BLUE가아님 ( 유효성이떨어짐 ) c. 통상적표준오차에대한공식은잘못된것임 ( 그에기반한신뢰구 간이나가설검정역시오류 ) i. 단순선형회귀모형에서. V b. V b Whie 의표준오차 ˆ. V b : 잘못된공식 : 정확한공식. 대표본하에서적절일반화된최소제곱추정 (Generalized Esimaion). 두가지유형의이분산성 V b Var a. 비례적이분산성 : 4
b. 분할된이분산성 : Var.,,. 이분산성하의유효추정 (Efficien Esimaion) a. 비례적이분산성 y i.. 즉,. Var, oherwise 을가중치로변수들을변환 y 동분산성 가중최소제곱추정 (Weighed ). 이분산성에비례적인변수를결정. 원래모형을그변수의제곱근의값으로나누어줌 3. 변형된모형에최소제곱추정을적용 ( 상수항없음 ) b. 분할된이분산성 y,, i. var y,, var i 와 를모름 ˆ 와 ˆ 를각각,, 및,, 의표본으로부터추정하여사용 3. 이분산성의탐지- Goldfeld-Quand es i. 비례적이분산성의경우비례하는변수를판별하여그변수의크기대로자료를 soring 함 자료를, 의표본크기를갖는두개의그룹 ( 비례적이분 산성의경우중간부분은버림 ) 으로나누어양그룹의분산의크기가같은가에대한가설을검정. H :, 0 H :. ˆ GQ F ˆ K, K 3. 높은 GQ 값에대해귀무가설을기각함 5
B. 자기상관 (Auocorrelaion) i. 자기상관의본질. 자기상관이란오차항에존재하는체계적인패턴의한형태 a. 양의자기상관 : 현재의오차항이이전의오차항과같은부호를갖는경향이있는경우 b. 음의자기상관 : 현재의오차항이이전의오차항과다른부호를갖는경향이있는경우 ( 경제자료에서는매우드묾 ) < 그림 > 자기상관 차자기상관모형 (AR()) y, v,. a. Ev ( ) 0, var( v ), cov( v, v ) 0, s, v s. v v v v, 3 3 i iv. 3. Ee ( ) 0, var( ) e e v, cov, e e e, 0 자기상관존재시최소제곱추정량. 불편추정량, 선형추정량그러나유효추정량은아님. 통상적표준오차에대한공식은잘못된것임 ( 그에기반한신뢰구간이나가설검정역시오류 ) 일반화된최소제곱추정 (G). 변형 y, v y a. b. 6
c. y y d. y y y,,3, e.. 두가지문제점 a. 변형과정에서관측치하나가줄어듦 y 를그대로추가하는것은이분산성의문제 i. 가발생 ( var( e ) e v ( ) y 를추가 y. b. 자기상관계수 () 의값을모름 i. v : 를안다면회귀분석에의해 를추정 ˆ y bb ˆ ˆ v i ˆ v. 자기상관의탐지. Durbin-Wason es ˆˆ ˆ a. H : 0 0, H : 0 b. d ˆ ˆ ˆ c. ˆ d ˆ 0 일때 d, ˆ 일때 d 0 d. DW 검정통계량의분포는설명변수의값에의존 i. 표에서 d L,. Lagrange Muliplier es (LM es) y y ˆ a. b. du 를구할수있으며이를이용 7
vi. c. 검정또는 F검정을통해 ˆ 에대한유의성을검정 d. LM es는대표본에서유효, 차자기상관뿐아니라고차자기 상관에대한탐지에도사용가능 자기상관존재시예측. 자기상관이존재하는경우이전의오차가다음기의오차를예측하는데도움이되며, 이정보를이용하는것이최선의예측방법임 y ˆ ˆ ˆe, ˆ ˆ, 는일반화된최소제곱추정량,. ˆ e y ˆ ˆ 3. h 기후의예측 : ˆ ˆ h yˆ ˆ e h h 8
C. 확률변수인설명변수 i. 새로운단순선형모형에대한기본가정. 기본가정 y,,..., a. y,,..., b., 는확률표본 ( 각쌍은동일하고독립적인분포 ) c. E 0 V d. e. 는적어도두개의다른값을가져야한다. f. N0,. 이러한완화된가정하의최소제곱추정량 a. a-e 까지의가정하에서최소제곱추정량은 BLUE ( 소표본성질 ) b. a-f 까지의가정하에서최소제곱추정량은 에조건부정규분포를 하며그분산역시통상적인방법으로계산되며그에근거한구간 추정이나가설검정역시유효함 ( 소표본성질 ) c. a-e 까지의가정하에서최소제곱추정량은일치추정량 ( 대표본성질 ) 3. 가정 c을좀더약한다음의가정으로대체 a. 가정 c : E 0, i. E 0 Cov, 0 이면 E 0, Cov, 0 이나그역은성 립하지않음 이경우최소제곱추정량의소표본성질은더이상성립하지않음 i 최소제곱추정량은대표본에서정규분포로근사할수있음 iv. 대표본하에서통상적인구간추정이나가설검정은유효함 4. 가정 c 가위배될경우, 특히설명변수와오차항간에상관되어있을경우 a. 최소제곱추정량은일치추정량이되지못함 b. 통상적구간추정이나가설검정은유효하지못함 c. 즉, 설명변수가확률변수로간주되는경우, 설명변수와오차항간의상관관계가최소제곱추정법적용의적절함을판단함에있어서결정적임 9
설명변수가오차항과상관되어있을경우. 변수오차 (Errors in Variables) 의경우 : 설명변수가오차를가지고측정될경우 a. y ( 임금, 능력-측정이어려움 ) * b. u ( 표준화된시험점수 : 대용변수 (proy variable)) * * Eu 0, u c. Cov u, u 0, u V u, i j y u u y d. 는확률변수이며이회귀식에대한최소제곱추정은비일치추정을낳게됨 * * E E u u cov, E u 0 u. 연립방정식의경우 : 설명변수가동시성 (Simulaneiy) 을가짐 C Y ( 케인지안소비함수 ) a. b. Y C I ( 소득항등식 ) c. C, Y 는모두내생변수로서시스템에서동시에결정됨 d. 소비함수에대한최소제곱추정은비일치추정을낳게됨 * Y E C I E Y cov, 0 i 적률방법에의한추정 (Mehod of Momen Esimaion) : 일치추정량을제공. 수학적적률과표본적률을등치시킴으로써모수의추정량을얻는방법 a. EY : 확률변수 Y 의 번째 ( 수학적 ) 적률 b. ˆ E Y ˆ y : 확률변수 Y의 번째표본적률 3. 단순회귀모형에서의적률방법추정 a. E E y 0 0 : 적률조건 b. E E y 0 0 : 적률조건 ( 가 0
c. 확률변수가아니거나, 확률변수라해도가정 c 를만족 ) y b b 0 y b b 0 4. 가확률변수이고오차항과상관되어있을경우 a. 최소제곱추정량과동일한결과 Cov z, 0을만족하는다른변수 (insrumenal variable, 도구변 수또는수단변수라부름 ) z 를찾음 ( 도구변수추정법 ) b. E E y 0 0 : 적률조건 c. Ez Ez y d. e. 0 0 : 적률조건 ˆ y b b 0 z y b b 0 ˆ yˆ 5. 적률방법추정량의성질 a. 일치추정량, z y zy z z y y z z z z b. 대표본하에서정규분포를함 ˆ ~ N, rz * r z : z와 간의표본상관의제곱 * 와높은상관을가지는도구변수가바람직함을나타냄 c. 오차항의분산은다음과같이추정함 * ˆ IV y ˆ ˆ 6. 단계최소제곱추정량 : 도구변수가필요한것보다많을경우 a. z 외에 w도도구변수로역할을함 b. 다음의 단계를통해적절한적률방법추정량을얻을수있음
i. 를상수항, z, w 에회귀하여예측치 ˆ 를얻음 이예측치 ˆ 를 에대한도구변수로사용하여추정량을얻 음 i ˆ ˆ yˆ ˆ ˆ ˆ ˆ ˆ y y ˆ y y iv. iv. 여기서예측치 ˆ 를설명변수로사용하여추정량을얻을수도있음 (단계최소제곱추정법 ) c. 대표본하에서 var ˆ ˆ, ˆ 설명변수와오차항간의상관의탐지 : Hausman es IV y ˆ ˆ. H : Cov 0, 0, H : Cov, 0. 귀무가설하에서최소제곱추정량과도구변수추정량모두일치추정량 ˆ 0 a. 귀무가설하에서 q b ols IV q b ˆ c 0 b. 대립가설하에서 ols IV c. Davidson and Macinnon i. 오차항과의상관이의심되는 를도구변수 z 와 z 에대해 회귀하여얻은잔차를 ˆ 라할때, 이를원래의회귀식에설 명변수로포함시킴 ˆ i y v : 이회귀결과로부터잔차 ˆ 대한유의성검정으로부터가설검정을수행 에 와오차항간에상관이있다면오차항과상관없는도구변 수들에의해설명되고남는부분 ( ˆ ) 이오차항과상관될것이 고 0일것임