Hansen J 검정: GMM 과잉식별 제약과 해석

일반화 적률법(GMM)은 이론에서 도출된 모멘트 조건의 표본 버전을 0에 가깝게 만드는 모수를 추정합니다. 도구변수 회귀에서는 참 모수에서 도구변수와 구조오차가 무상관이라는 조건이 모멘트가 될 수 있습니다. 자산가격결정식, 오일러 방정식, 패널 자료의 동학 제약에서도 모멘트 조건을 만들 수 있습니다.

모형의 모멘트 조건이 미지수인 모수보다 많으면 추정 뒤에도 남는 조건이 생깁니다. Hansen J 통계량은 지정된 가중행렬을 적용해 추정 뒤에도 0에서 떨어져 있는 표본 모멘트의 거리를 하나로 요약합니다. 이는 정해 둔 모형에 대한 공동 명세 검정입니다. 검정 결과만으로 한 도구변수에 ‘타당’ 또는 ‘부당’이라는 꼬리표를 붙일 수는 없습니다.

금융·퀀트 연구에서 이 차이는 실제 해석을 좌우합니다. 거래 또는 자산가격 모형에 여러 모멘트 조건을 넣더라도, 결과는 사용한 수익률, 요인, 도구변수, 날짜 범위, 공분산 가정에 따라 달라집니다. 작은 p값은 그 가정 묶음에 대한 반대 증거가 될 수 있지만, 큰 p값은 모든 가정이 참이라는 독립 증거가 아닙니다.

시점 \(t\)의 모멘트 기여분을 \(q\)개 성분을 가진 \(g_t(\theta)\)로 쓰겠습니다. 모수 벡터 \(\theta\)가 주어졌을 때 표본 평균은 다음과 같습니다.

\[ \bar g_T(\theta) = \frac{1}{T}\sum_{t=1}^{T}g_t(\theta). \]

GMM은 다음과 같은 가중 이차 거리를 최소화하는 \(\hat\theta\)를 선택합니다.

\[ Q_T(\theta) = T\,\bar g_T(\theta)'W_T\bar g_T(\theta), \qquad J = Q_T(\hat\theta), \]

여기서 \(W_T\)는 양의 가중행렬입니다. 이 가중치에 따라 각 모멘트 조건의 불일치가 목적함수에 반영되는 비중이 달라집니다. 효율적 GMM은 명시한 표본 조건 아래에서 모멘트의 장기 공분산 행렬의 역행렬에 가까운 가중행렬을 추정합니다. J 검정이 평가하는 것은 이미 추정된 모수에서의 최소 목적함수이며, 추정 없이 임의로 고른 모수에서의 값이 아닙니다.

수식은 간결하지만 구성요소를 서로 바꿔 쓸 수는 없습니다. 도구변수를 바꾸면 \(g_t\)가 달라지고, 표본을 바꾸면 평균이 달라집니다. 공분산 추정량을 바꾸면 가중행렬이 바뀌며, 추정 방법을 바꾸면 적합된 모수도 달라질 수 있습니다. 따라서 재현 가능한 J 통계량을 보고하려면 숫자와 ‘robust’라는 표현만으로는 부족합니다.

서로 독립인 모멘트 조건이 \(q\)개이고 국소적으로 식별되는 모수가 \(k\)개라면, 통상적인 과잉식별 검정의 자유도는 \(q-k\)입니다. 예를 들어 독립 모멘트 세 개로 모수 두 개를 추정하면 하나의 과잉식별 제약이 남습니다. 귀무가설 아래 모든 모집단 모멘트가 성립하고 가중치가 적절히 구성된 경우, J 통계량은 그 자유도의 카이제곱 분포와 점근적으로 비교합니다.

모멘트 수와 모수 수가 같으면 정확식별 모형입니다. 이때 적합된 표본 모멘트를 0으로 만들 수 있어 J 통계량으로 추가 제약을 확인할 여지가 없습니다. 자유도는 0이고 과잉식별 검정은 없습니다. 독립 모멘트보다 모수가 많다면 이는 별도의 식별 문제입니다. 자유도가 음수가 되거나 의미 있는 J 검정이 생기는 것이 아닙니다.

소프트웨어 출력 열의 수만 세지 말고 실질적으로 독립인 모멘트 제약을 세어야 합니다. 중복 도구변수나 선형 종속 모멘트는 유효한 계수를 줄일 수 있습니다. 통상적인 카이제곱 기준분포에도 식별을 포함한 대규모 표본 조건이 필요합니다. 명목상 \(q-k\)를 계산했다고 해서 특이하거나 불안정하게 추정된 모멘트 공분산 행렬이 해결되지는 않습니다.

실제 계산에서는 제약의 이론상 개수와 수치적으로 독립적인 개수를 구별해야 합니다. 두 도구변수가 거의 같은 정보를 제공하거나 표본에서 한 모멘트 열이 다른 열의 선형결합에 가까우면 공분산 역행렬이 불안정해질 수 있습니다. 프로그램이 특이행렬 문제를 피하려고 열을 제거하거나 허용오차로 순위를 판단한다면, 출력 자유도가 연구자가 셈한 \(q-k\)와 다를 수 있습니다. 이때는 J 통계량만 복사하지 말고 사용한 모멘트 목록, 유효 순위, 계산 경고와 소프트웨어 설정을 기록하세요. 제약의 수를 바꾸는 과정 자체가 어떤 귀무가설을 검정하는지도 바꿀 수 있습니다.

모수 두 개를 추정하기 위해 모멘트 세 개를 쓰는 모형을 생각해 보겠습니다. 통상적인 자유도는 \(3-2=1\)입니다. 명시한 공분산 가정에 맞는 가중 방식으로 소프트웨어가 J 통계량 5.4를 보고했다고 가정합니다. 자유도 1인 카이제곱 기준분포에서 p값은 약 0.020입니다. 사전에 정한 유의수준 5%에서라면 세 모집단 모멘트가 모두 0이라는 공동 귀무가설을 기각합니다.

결론은 ‘두 번째 도구변수가 부당하다’보다 좁습니다. J 통계량은 시스템 전체의 가중 거리를 측정하며, 어떤 모멘트가 충돌의 원인인지 알려주지 않습니다. 도구변수 하나의 배제 제약 위반, 구조식의 잘못된 설정, 빠진 동학, 맞지 않는 공분산 모형 또는 다른 유지 가정의 실패가 같은 검정을 기각시킬 수 있습니다. 원인을 찾으려면 후속 진단과 경제적 맥락에 대한 검토가 필요합니다.

가령 p값이 0.20이었다면 해당 유의수준에서 공동 제약을 기각하지 못했다고 쓰는 것이 정확합니다. ‘도구변수 타당성이 증명됐다’고 쓰지는 않습니다. 제약이 그럴듯해서, 검정력이 낮아서, 또는 표본이 너무 작거나 잡음이 커 위반을 구분하지 못해서 기각에 실패할 수 있습니다. 유의수준은 여러 모형을 확인한 뒤 고르지 말고 검토 전에 정해야 합니다. 적당해 보이는 p값이 나올 때까지 사양을 탐색하면 또 다른 선택 문제가 생깁니다.

귀무가설은 기준분포를 정당화하는 모형과 점근 조건 아래에서 해석되는 모집단 제약의 묶음입니다. J가 기각되면 검정이 사용한 가중 아래에서 그 묶음의 일부가 관측 표본과 잘 맞지 않는다는 뜻입니다. 이 검정만으로 잘못된 배제 제약, 틀린 함수 형태, 빠진 상태 의존성, 자료 구성 오류, 부적절한 장기 공분산 추정량을 서로 구분할 수는 없습니다.

이 검정은 인과성을 확립하지도 않습니다. IV 설계의 과잉식별 검정은 모형 아래 추가 제약들이 서로 일관되는지 평가할 수 있지만, 모든 도구변수의 배제 제약을 입증할 수는 없습니다. 특히 도구변수들이 같은 우회경로를 공유하면 검정이 잡아내지 못할 수 있습니다. 도구변수 관련성과 배제 제약은 별개의 조건입니다. 관련성에는 1단계 회귀와 약한 식별 진단을 쓰고, 배제 제약은 경제적 경로에 근거해 설명해야 합니다.

선형 자산가격 적용의 J 통계량은 특정 요인 모형과 검증 자산 집합이 요구하는 공동 가격결정 제약을 검정할 수 있습니다. 기각되더라도 누락된 요인이 무엇인지 자동으로 밝혀지거나 다른 거래 전략이 수익을 낸다는 뜻은 아닙니다. 기각하지 못해도 모형이 경제적으로 참임을 입증하지 않습니다. 관련된 횡단면 위험가격 절차와 추론 한계는 Fama–MacBeth 가이드에서 다룹니다.

고전적인 Sargan 검정은 도구변수 추정에서 나왔고, 흔히 오차의 등분산성을 포함한 제한적인 공분산 가정을 둡니다. Hansen J 검정은 모멘트의 공분산을 추정해 쓰는 GMM 과잉식별 통계량입니다. 이분산성을 반영할 수 있고 적절한 장기 공분산 추정량을 사용하면 시간 의존성도 반영할 수 있습니다. 그렇다고 ‘Hansen’이라는 명칭만으로 모든 명세 오류에 강건해지는 것은 아닙니다. 공분산과 가중 방식을 모멘트 과정의 특성에 맞춰야 합니다.

시계열 모멘트에 자기상관이 있으면 표본 평균의 장기 분산도 달라집니다. Newey–West 같은 HAC 추정량은 가정과 시차 선택이 자료에 맞는 경우 적절한 공분산 추정에 활용할 수 있습니다. 패널 또는 군집 관측에는 다른 공분산 구성이 필요할 수 있습니다. 계수 표준오차에만 공분산 보정을 썼다고 해서 J 목적함수에도 일관된 가중행렬을 썼다는 뜻은 아닙니다.

1단계, 2단계, 반복 GMM은 서로 다른 가중행렬로 모수를 추정할 수 있습니다. 효율적인 2단계 절차에서는 추정한 가중행렬 자체가 유한표본 불확실성을 더합니다. 특히 관측치에 비해 모멘트가 많으면 표준오차와 검정의 동작이 불안정할 수 있습니다. Windmeijer가 분석한 유한표본 보정은 특정 선형 효율적 2단계 GMM 상황의 분산 추정에 관한 것입니다. 모든 J 통계량에 적용하는 만능 보정은 아닙니다.

J 검정은 도구변수의 강도를 검정하지 않습니다. 정보가 약한 도구변수는 모수 추정과 통상적인 점근 근사를 불안정하게 만들 수 있습니다. 도구변수 강도를 확인하려면 이에 맞는 진단을 사용하세요. J p값이 충분히 높다는 이유만으로 강한 식별이 확인됐다고 보면 안 됩니다. 점근적 카이제곱 기준분포는 짧은 금융 표본이 자동으로 점근 상황을 따른다는 약속이 아닙니다.

도구변수나 모멘트를 추가하면 정보를 늘리는 것처럼 보일 수 있습니다. 하지만 동적 패널 GMM에서는 도구변수가 지나치게 많아 내생 설명변수를 표본 안에서 과적합하고, 명세 검정의 위반 탐지력을 떨어뜨릴 수 있습니다. 큰 도구변수 집합에서 매우 높은 p값이 나와도 안심할 근거가 약할 수 있습니다. 도구변수 개수와 시차·구성 범위를 보고하고, 해당될 때는 축약하거나 합친 도구변수 집합 등 방어 가능한 축소안과 비교하세요.

작은 표본, 거의 선형 종속인 모멘트, 부정확한 공분산 추정, 모수 경계, 약한 식별은 모두 교과서적 해석을 흔들 수 있습니다. 이때는 ‘J 검정 통과’라는 기계적인 문구 대신 민감도 분석과 적절한 대안 추론이 필요합니다. 도구변수, 시차 범위, 요인, 표본 구간을 여러 개 탐색했다면 탐색 범위를 기록하고 가장 보기 좋은 결과를 사전에 정한 것처럼 제시하지 마세요.

도구변수 축소가 자동으로 더 나은 모형을 만든다는 뜻도 아닙니다. 일부 조건을 제거하면 정밀도가 낮아지거나 처음 의도한 경제적 제약을 더는 검정하지 못할 수 있습니다. 반대로 남기는 조건이 너무 많으면 가중행렬 추정이 불안정해지고 표본에서 모형을 과적합할 수 있습니다. 각 대안의 목적을 분명히 하고, 수치적으로 계산 가능하다는 이유만으로 유효한 조건으로 간주하지 마세요.

일부 동적 패널 분석은 추가 도구변수 블록 같은 일부 모멘트 조건을 대상으로 차분 Hansen 검정 또는 C 검정을 보고합니다. 개념적으로 중첩 모형의 비교는 그 블록을 추가했을 때 나머지 유지 모멘트와 양립하는 제약이 늘어나는지 묻습니다. 이는 나머지 사양에 조건부인 검정이지, 각 도구변수에 대한 독립적인 승인서는 아닙니다.

두 J 통계량의 차이가 기준분포를 따르려면 중첩 관계, 추정 방식, 공분산 조건이 맞아야 합니다. 비교하는 모형은 호환되는 표본과 모멘트 정의를 사용해야 하고 가중행렬과 유한표본 동작도 검토해야 합니다. 전체 도구변수 집합이 크면 부분 검정의 검정력도 낮을 수 있습니다. 여러 블록을 시험했다면 유리한 하나만 골라 쓰지 말고 비교한 집합을 함께 보고하세요.

표본, 모수 벡터, 모멘트 정의, 관측치 수, 제약의 수와 유효 계수, 자유도를 제시하세요. 1단계, 2단계, 반복 추정 중 어떤 GMM을 썼는지, 가중행렬을 어떻게 얻었는지, 어떤 공분산 구조를 허용했는지, 소표본 보정을 사용했는지도 밝혀야 합니다. J 통계량과 기준분포, p값, 분석 전에 정한 판단 기준을 함께 적으세요.

도구변수 개수와 구성법, 1단계 또는 관련성 진단, 합리적인 모멘트 집합 변경에 따른 추정치 민감도도 보여 주세요. 도구변수가 경제적 시점 조건과 배제 제약을 만족한다고 보는 이유를 설명하세요. 과잉식별 검정에서 기각되지 않았다는 사실이 그 논증을 대신하지는 않습니다. 부분 검정을 했다면 어느 부분을 어떤 모형과 비교했는지 명확히 하세요. IV 가정의 배경은 내생성과 도구변수 가이드, 공분산 선택은 강건 표준오차와 HAC 가이드를 참고하세요.

Hansen의 GMM 점근 이론, Sargan의 도구변수 검정, Stock과 Wright의 약한 식별 분석, Roodman의 도구변수 과잉 문제 연구, Windmeijer의 2단계 분산 소표본 분석, Newey와 West의 HAC 공분산 추정량은 서로 다른 쟁점을 다룹니다. 각 연구 결과는 저마다의 가정에서 성립하며 실증 모형에 대한 포괄적인 승인을 뜻하지 않습니다.