Engle–Ng 부호·크기 편의 검정: 변동성 모형 진단

변동성 모형은 수익률 크기가 군집하는 현상을 설명하더라도 서로 다른 충격이 이후 분산에 미치는 영향을 놓칠 수 있습니다. 예를 들어 대칭 GARCH 모형은 크기가 같은 양의 혁신과 음의 혁신에 같은 분산 반응을 부여합니다. 추정한 모형의 표준화 잔차에 양·음의 충격 이후 서로 다른 패턴이 남는다면, 표본에서 이 제약이 지나치게 강할 수 있습니다.

Engle과 Ng의 부호·크기 편의 검정은 이를 사후 진단 문제로 다룹니다. 변동성 모형을 추정한 뒤 이전 혁신의 부호 또는 양·음 분기 안에서의 크기가 현재 제곱 정규화 잔차를 설명하는지 묻습니다. 원 논문은 뉴스 충격 곡선을 정의하고 일본 주식의 일별 수익률 자료를 사용해 변동성 모형들을 비교합니다. 논문에서 관찰한 모형 간 순위는 해당 표본의 결과이지, 어떤 모형이 모든 시장에서 우월하다는 주장이 아닙니다(Engle과 Ng, 1993).

여기서 “편의”는 적합한 분산 모형이 설명하지 못한 부호·크기 관련 패턴을 뜻합니다. 모수 추정량의 통계적 편의를 뜻하지 않습니다. 먼저 GARCH 모형을 명확히 설정한 뒤, 이 검정으로 과거 충격에 대한 반응이 연구 표본과 목적에 적절한지 확인할 수 있습니다.

수익률을 다음과 같이 나타내겠습니다.

\[ r_t = \mu_t + \epsilon_t, \]

여기서 \(\mu_t\)는 조건부 평균이고 \(\epsilon_t\)는 평균 모형을 추정한 뒤 남는 혁신항입니다. \(h_t=\operatorname{Var}(\epsilon_t\mid\mathcal F_{t-1})\)는 추정한 조건부분산입니다. 표준화 잔차는 다음과 같습니다.

\[ \hat z_t = \frac{\hat\epsilon_t}{\sqrt{\hat h_t}}. \]

분산 모형이 적절하게 설정되었다면, 이미 추정된 모형이 설명하는 부분을 넘어 특정 과거 충격 뒤에 \(\hat z_t^2\)가 체계적으로 더 커지거나 작아져서는 안 됩니다. 이 검정은 추정한 모형이 예측하는 분산 규모를 제거하기 위해 \(\hat z_t^2\)를 진단 결과변수로 사용합니다. 제곱한 원시 잔차는 모형이 이미 설명한 일반적인 변동성 군집을 그대로 포함할 수 있습니다.

먼저 타당한 조건부 평균 방정식을 적합해야 합니다. 평균 모형에서 빠진 패턴이 혁신항에 남으면 분산 패턴처럼 보일 수 있습니다. p값을 해석하기 전에 잔차의 정의, 조건부분산, 예측 시점, 수익률 단위와 추정 표본을 정해 두세요.

이전 혁신항이 음수인지 나타내는 지시변수와 그 여집합을 정의합니다.

\[ S^-_{t-1}=\mathbf 1(\hat\epsilon_{t-1}<0), \qquad S^+_{t-1}=1-S^-_{t-1}. \]

부호 편의 회귀변수는 \(S^-_{t-1}\)입니다. 음의 크기 회귀변수는 \(S^-_{t-1}\hat\epsilon_{t-1}\), 양의 크기 회귀변수는 \(S^+_{t-1}\hat\epsilon_{t-1}\)입니다. 각각 다른 질문을 다룹니다. 음의 충격이 부호만으로 다르게 작용하는지, 음의 충격의 크기도 중요한지, 양의 충격의 크기도 중요한지를 구분합니다. 수익률이 0일 때 어느 분기로 분류하는지, 구현에서 어떤 혁신항 단위를 쓰는지 밝혀야 합니다. 크기 계수는 그 단위에 따라 달라집니다.

뉴스 충격 곡선은 다른 상태 입력을 고정했을 때 새 혁신항이 다음 조건부분산으로 연결되는 방식을 모형별로 요약합니다. 대칭 GARCH가 함의하는 곡선은 0을 중심으로 대칭이지만, 비대칭 명세는 그 모양을 완화합니다. 이 곡선은 모형의 제약을 보여 주며 시장에서 직접 측정한 인과 반응이 아닙니다. Engle과 Ng의 검정은 그 제약 밖에 남은 특정 패턴을 확인하도록 제안되었습니다.

실무에서는 이 곡선을 한 번의 표본 도식으로 확인하는 데 그치지 말고, 모형이 실제로 허용하는 상태변수와 추정 방식도 함께 기록해야 합니다. 평균 모형의 설명변수, 분산 모형의 시차, 분포 가정이 달라지면 표준화 잔차와 검정 회귀의 결과도 바뀔 수 있습니다. 따라서 논문이나 소프트웨어 간 결과를 비교할 때에는 ‘부호·크기 검정’이라는 이름만 맞추기보다 보조 회귀식과 사용 표본이 같은지 먼저 확인하는 편이 안전합니다.

부호 편의 검정은 귀무 분산 명세의 나머지 항을 유지한 채 이전 혁신항의 부호가 현재 제곱 표준화 잔차를 설명하는지 살펴봅니다. 보조 회귀식은 다음과 같습니다.

\[ \hat z_t^2 = a + b_s S^-_{t-1} + \boldsymbol{\beta}^{\top}\mathbf z_{ot}^* + v_t. \]

이 개별 검정의 귀무가설은 \(b_s=0\)입니다. 각 보조 회귀식에는 \(\mathbf z_{ot}^*\)를 유지합니다. 이는 귀무가설 아래에서 평가한, 유지된 조건부분산을 방해 모수에 대해 미분한 정규화 도함수의 벡터입니다. 즉 점수/도함수 항이며, 원시 분산 회귀변수와 반드시 같은 것은 아닙니다. 부호 지시변수를 추가했을 때 설명력이 더해지는지 검정합니다. 계수가 유의하면 추정한 모형이 설명하지 못한 음의 충격과 0 이상 충격 이후의 잔차 분산 패턴이 다르다는 근거가 됩니다.

이 검정은 음의 수익률이 항상 변동성을 높인다는 뜻이 아닙니다. 추정된 모형에 조건부인 잔차 패턴의 차이를 검정할 뿐이며 계수는 지시변수의 부호 규칙과 표본에 좌우됩니다. 가능한 모든 비선형 반응을 구분하지도 않습니다. 검정 기각은 모형과 자료를 살펴볼 이유이지, 음의 뉴스가 원인이라고 단정할 근거가 아닙니다.

개별 부호 검정은 비대칭성이 있다면 어떤 분기에서 관찰되는지 빠르게 살피는 데 유용하지만, 그 결과만으로 세 항의 전체적인 설명력을 판단할 수는 없습니다. 반대로 결합 검정이 유의하더라도 세 계수가 각각 유의해야 하는 것은 아닙니다. 서로 연관된 회귀변수의 기여를 분리하는 일은 어렵기 때문에, 개별 검정과 결합 검정을 함께 보고 계수의 크기, 표준오차, 표본 내 잔차 도표를 나란히 살피는 것이 좋습니다.

음의 크기 검정은 귀무 분산 명세의 나머지 항을 유지한 채 음의 분기에서 혁신항의 크기가 남은 제곱 잔차 패턴을 추가로 설명하는지 확인합니다.

\[ \hat z_t^2 = a + b_- S^-_{t-1}\hat\epsilon_{t-1} + \boldsymbol{\beta}^{\top}\mathbf z_{ot}^* + v_t. \]

개별 귀무가설은 \(b_-=0\)이며, 회귀식에는 귀무 명세의 나머지 항인 \(\mathbf z_{ot}^*\)를 유지합니다. 이 회귀변수에서는 \(S^-_{t-1}=1\)일 때 혁신항이 음수이므로, 계수의 부호를 해석할 때는 정확한 부호 규칙과 단위를 고려해야 합니다. 핵심 진단은 음의 충격 크기가 변동성 모형이 설명하지 못한 정보를 추가하는지 여부입니다.

예를 들어 대칭 모형은 모든 충격의 제곱을 통해 분산을 갱신하지만, 표본에서는 큰 음의 충격 이후 다른 잔차 패턴이 나타날 수 있습니다. 검정은 이런 차이를 찾을 수 있지만 나쁜 뉴스의 인과 효과를 추정하거나 음의 충격 모형이 더 나은 예측을 한다고 입증하지는 않습니다. Engle, Ng, Glosten, Jagannathan과 Runkle은 원 논문과 관련 연구에서 비대칭 분산 명세를 비교하지만, 그 비교도 연구에 사용한 모형 가정과 자료에 한정됩니다(Glosten, Jagannathan, Runkle, 1993).

<!-- learn:illustration -->

양의 크기 검정도 귀무 분산 명세의 나머지 항을 유지하면서 반대쪽 분기를 살펴봅니다.

\[ \hat z_t^2 = a + b_+ S^+_{t-1}\hat\epsilon_{t-1} + \boldsymbol{\beta}^{\top}\mathbf z_{ot}^* + v_t. \]

이 개별 검정의 귀무가설은 \(b_+=0\)입니다. \(\mathbf z_{ot}^*\)를 유지한 상태에서 이 항은 양의 혁신항 크기가 추정한 분산 모형을 넘어 제곱 표준화 잔차를 설명하는지 확인합니다. 부호 편의 검정은 유의하지 않더라도 이 검정이 유의할 수 있습니다. 음·양의 평균적인 차이 없이 한쪽 분기 안에서 충격 크기에 따라 반응이 달라질 수 있기 때문입니다.

“양의 크기 편의”를 양의 수익률이 변동성을 높이거나 낮춘다는 주장으로 해석해서는 안 됩니다. 계수는 특정 회귀변수에 붙으며 부호 규칙에 따라 의미가 달라집니다. 유의성은 보조 회귀식 아래에 남은 연관성을 나타냅니다. 이를 좋은 뉴스나 나쁜 뉴스에 관한 설명으로 바꾸기 전에 적합값, 잔차 구성과 분산 모형을 확인해야 합니다.

Nelson의 EGARCH와 임계값 모형은 같은 모수화가 아니더라도 비대칭 반응을 허용하는 분산 동학의 예입니다(Nelson, 1991; Zakoian, 199490039-6)). 검정 이후 평가할 수 있는 대안이지, 자동으로 정답이 되거나 우월한 모형은 아닙니다.

귀무 분산 명세의 나머지 항을 유지한 채 세 회귀변수를 하나의 보조 회귀식에 함께 추가해 검정할 수 있습니다.

\[ \hat z_t^2 = a + b_1 S^-_{t-1} + b_2 S^-_{t-1}\hat\epsilon_{t-1} + b_3 S^+_{t-1}\hat\epsilon_{t-1} + \boldsymbol{\beta}^{\top}\mathbf z_{ot}^* + v_t. \]

결합 귀무가설은 귀무 명세의 항 \(\mathbf z_{ot}^*\)에 조건부로 \(b_1=b_2=b_3=0\)입니다. Engle과 Ng는 결합 회귀식에서 \(\mathbf z_{ot}^*\)를 빼면 검정이 보수적이 되어 크기가 명목 수준 이하가 되고 검정력이 낮아질 수 있다고 설명합니다. 유지한 변동성 명세와 표준적인 대규모 표본 조건 아래에서 Engle–Ng 결합 LM 검정은 자유도 3인 카이제곱 분포에 점근적으로 비교합니다. 일반적인 계산식 중 하나는 \(LM=M R^2\)입니다. 여기서 \(M\)은 보조 회귀에서 사용할 수 있는 행의 수이고, \(R^2\)는 명시한 검정 회귀식에서 계산합니다. 보고서에서는 소프트웨어나 논문이 사용한 정확한 회귀식과 유한표본 규칙을 따라야 합니다.

전적으로 가상의 예를 들어, 지정한 결합 회귀식에 사용할 수 있는 행이 \(M=400\)개이고 \(R^2=0.012\)라고 합시다. 그러면 \(LM=400\times0.012=4.8\)입니다. 자유도 3 카이제곱 분포의 5% 기준값은 약 7.81이므로, 이 계산에서는 그 유의수준에서 귀무가설을 기각하지 않습니다. 입력값은 설명을 위해 만든 숫자이며, 실증 결과가 아니고 분산 모형이 대칭이라는 증명도 아닙니다.

작은 p값은 명시한 귀무가설과 기준 분포 아래에서 관측한 잔차 패턴이 드물다는 뜻입니다. 빠진 부호 또는 크기 반응을 조사할 근거는 되지만 대안 모형을 특정하거나 구조적인 레버리지 메커니즘을 증명하지 않습니다. 변동성 예측에 경제적 가치가 있는지도 알려 주지 않습니다. 큰 p값도 선택한 패턴을 검정이 발견하지 못했다는 뜻일 뿐, 대칭성을 입증하지 않습니다.

보조 회귀변수는 서로 상관될 수 있으며, 특히 부호 지시변수와 음의 크기 항 사이에 공선성이 생길 수 있습니다. Engle과 Ng는 이런 공선성이 개별 검정의 검정력을 낮출 수 있다고 지적합니다. 결합 검정은 세 항을 함께 고려하지만 역시 표본 크기, 모형 추정, 유지한 명세에 좌우됩니다. 여러 자산, 모형, 시차, 표본 구간을 시험하면 우연히 작은 p값을 얻을 가능성이 커집니다.

여기서 검정력은 실제로 남아 있는 패턴을 절차가 찾아낼 확률입니다. 표본이 짧고 비대칭성이 약하면 유의하지 않은 결과가 나와도 모형의 대칭 제약이 타당하다고 결론 내리기 어렵습니다. 반복해서 모형을 바꾸고 같은 자료에서 가장 유리한 p값을 고르면, 그 p값은 사전 지정한 단일 검정의 기준과 다른 의미를 갖습니다. 탐색적으로 여러 조합을 비교했다면 그 사실을 보고하고, 별도 검증 구간이나 사전에 정한 기준으로 후속 결과를 확인해야 합니다.

이상치, 점프, 구조 변화, 빠진 조건부 평균 항, 일관되지 않은 혁신항 단위도 결과에 영향을 줄 수 있습니다. 수익률 정의, 추정 구간, 모형, 부호 규칙과 추론 방법을 미리 정하세요. 표본이 짧거나 모형이 복잡하다면 점근 추론의 한계를 밝히고, 교과서 임계값을 정확한 기준처럼 다루지 말고 적절한 재표본 방법을 고려합니다.

ARCH LM 검정은 선택한 시차의 제곱 잔차가 현재 제곱 잔차를 설명하는지 묻습니다. ARCH-LM 안내서는 이 조건부 크기 의존성을 더 넓게 다룹니다. Engle–Ng 검정은 여기에 특정 부호 및 분기별 크기 항을 더합니다. Ljung–Box 검정은 잔차 자기상관을 묻는 것으로 다른 질문입니다. 어느 검정도 혼자서 변동성 모형이 완전하다고 인증하지 않습니다.

검정을 기각했다면 GJR-GARCH, EGARCH 또는 임계값 명세와 같은 비대칭 모형을 추정해 볼 수 있습니다. 동일한 시간 순서 표본에서 기준 모형과 비교하고, 표준화 잔차를 다시 확인한 다음 예측을 별도로 평가합니다. QLIKE와 제곱오차 손실은 예측을 만든 뒤 점수를 매기므로 잔차 명세 검정을 대체하지 않습니다. 변동성 예측을 매매 규칙에 사용한다면 수수료, 스프레드, 시장 충격, 금융 비용과 위험 한도를 반영해 표본 외에서 평가하세요. 부호·크기 편의 검정은 매수나 매도 신호가 아닙니다.

모형을 선택할 때에는 진단 결과와 사용 목적을 따로 적어 두면 해석이 명료해집니다. 예를 들어 특정 항이 잔차 회귀에서 유의하다는 이유만으로 복잡한 모형을 선택하기보다, 추정 안정성, 수렴 실패 여부, 표본 밖 예측 성능, 위험 측정의 목적을 함께 비교할 수 있습니다. 여러 검정이 서로 다른 결론을 내더라도 이는 이상한 일이 아닙니다. 각 절차가 잔차의 다른 속성을 대상으로 하기 때문입니다. 진단은 모델링 과정의 근거 중 하나이며 최종 판단을 대신하지 않습니다.