ARCH LM 검정으로 변동성 군집 확인하기

금융 수익률은 방향을 예측하기 어렵더라도 움직임의 크기는 한동안 커지거나 작게 이어질 수 있습니다. 큰 움직임 뒤에 큰 움직임이 이어지고 조용한 구간도 지속되는 현상을 변동성 군집이라고 부릅니다.

ARCH LM 검정은 이를 진단하는 질문으로 바꿉니다. 조건부 평균을 반영한 뒤에도 최근 제곱 충격이 현재 제곱 충격에 관한 정보를 담고 있을까요? 이 검정은 조건부 분산을 일정한 값으로 고정하지 않고 시간에 따라 달라질 수 있도록 한 Engle의 ARCH 모형에서 나왔습니다.

핵심은 수익률의 부호가 아니라 충격의 크기가 시간에 따라 달라지는지 보는 것입니다. 어제의 큰 양의 수익률이 오늘의 큰 음의 수익률에 이어져도, 두 값의 크기가 모두 크다면 변동성 군집과 양립할 수 있습니다. 방향 예측이 실패해도 위험의 크기에는 구조가 남을 수 있다는 점이 변동성 모형을 따로 분석하는 이유입니다.

여기서 살피는 것은 장기 평균 분산이 서로 다른지보다, 과거 정보가 오늘의 조건부 분산을 설명하는지입니다. 정상적인 ARCH 과정은 장기적으로 하나의 유한한 무조건 분산을 가질 수 있으면서도 시점별 조건부 분산은 달라질 수 있습니다. 그러므로 단순히 전체 표본의 표준편차 하나를 계산하는 것만으로 시간에 따른 위험 변화를 검증할 수는 없습니다.

귀무가설은 선택한 시차의 제곱 잔차들이 현재 제곱 잔차를 함께 설명하지 못한다는 것입니다. 대립가설은 한 개 이상의 시차에서 ARCH 효과와 부합하는 관계가 있다는 것입니다. 이는 정해진 잔차 패턴을 살피는 검정이지, 수익률이 예측 가능하다는 일반적인 인증서가 아닙니다.

먼저 수익률을 어떻게 정의했는지와 각 관측 시점에 어떤 정보를 사용할 수 있었는지 정합니다. 단순수익률인지 로그수익률인지, 배당이나 펀딩을 반영했는지, 휴장일과 장중·장외 간격의 결측치를 어떻게 처리했는지에 따라 검정 대상 잔차가 달라집니다.

그다음 연구 질문에 맞는 평균 방정식을 적합합니다. 수익률을 평균 조정하는 것이 목적이면 상수항만 둘 수 있고, 미리 정한 요인을 비교한다면 그 요인을 포함한 회귀를 사용할 수 있습니다. 그 모형에서 나온 잔차를 여기서는 e_t로 표기합니다. 평균 모형을 잘못 지정하면 잔차에 남은 패턴이 분산의 움직임처럼 보일 수 있습니다.

모형 추정으로 얻은 잔차는 관측할 수 없는 실제 충격과 같지 않습니다. 평균 방정식의 계수를 같은 표본에서 추정했기 때문입니다. 시차를 만들 때 초기에 값이 없는 행을 어떻게 제외하는지, 휴장일이 있는 거래자료에서 무엇을 한 기간으로 부르는지도 기록해야 합니다. 거래일 다섯 번의 간격과 달력일 다섯 번의 간격은 같은 보유 기간이 아닐 수 있습니다.

ARCH 검정의 p값이 유의하지 않게 나올 때까지 평균 모형을 고르면 안 됩니다. 그러면 결과를 보고 진단 모형을 선택하게 됩니다. 분산 검정을 설명하기 전에 평균 방정식, 추정 표본, 잔차의 정의를 밝혀야 합니다. Engle의 최초 ARCH 논문은 조건부 분산 모형의 맥락에서 이 검정을 전개했습니다.

잔차를 제곱하면 부호가 사라지고 큰 충격은 더 두드러집니다. 크기가 같은 양의 잔차와 음의 잔차는 제곱값이 같으므로, 일반 수익률에 뚜렷한 선형 자기상관이 없어도 제곱 잔차를 통해 움직임 크기의 군집을 찾을 수 있습니다.

예를 들어 평균 0 부근에서 번갈아 움직이는 두 충격의 부호가 서로 달라도 절댓값이 비슷하면 제곱값은 둘 다 큽니다. 반대로 부호가 같은 작은 값이 이어진다고 해서 곧바로 큰 변동성 군집이라 할 수도 없습니다. 이런 구분 때문에 원수익률의 자기상관 함수와 제곱 잔차의 자기상관 함수를 따로 살펴봅니다.

ARCH(q) 진단에서는 제곱 잔차를 상수항과 q개의 시차를 둔 제곱 잔차에 회귀합니다.

e_t^2 = a_0 + a_1 e_{t-1}^2 + ... + a_q e_{t-q}^2 + v_t

귀무가설은 a_1 = ... = a_q = 0입니다. 보조 회귀에는 상수항이 들어갑니다. 시차 q는 이번 검정이 살필 시간 범위를 정하며, 귀무가설이 그 값을 자동으로 골라 주지는 않습니다.

계수 하나씩의 유의성보다 q개 시차 계수가 공동으로 0인지 묻는 검정입니다. 한 시차의 계수만 따로 읽으면 여러 시차를 동시에 넣은 모형의 질문과 달라집니다. 또한 시차 제곱 잔차를 설명변수로 추가해도 평균 방정식 자체가 바뀌는 것은 아닙니다. 이는 조건부 분산을 진단하는 보조 회귀입니다.

보조 회귀의 일반적인 결정계수를 R^2, 시차 값을 정렬하고 나서 회귀에 실제로 사용된 행의 수를 M이라고 하겠습니다. 귀무가설과 통상적인 큰 표본 조건 아래에서 LM 통계량 M × R^2는 자유도 q인 카이제곱 분포를 근사적으로 따릅니다.

완전히 가상의 예를 보겠습니다. q가 5이고, 실제 회귀 행이 M=300개이며, 보조 회귀의 R^2가 0.018이라면 300 × 0.018 = 5.4입니다. 카이제곱(5)의 5% 임계값은 약 11.07이므로 5.4는 그 기준을 넘지 않습니다. 따라서 이 예에서는 유의수준 5%에서 ARCH 없음이라는 귀무가설을 기각하지 못합니다.

이 계산은 큰 표본 근사이지 변동성 군집의 개수가 아닙니다. M은 시차 정렬 후 보조 회귀에서 사용할 수 있는 표본 수이며, 전체 수익률 개수와 언제나 같지는 않습니다. Engle의 노벨 강연은 금융 수익률의 변동성 군집과 조건부 분산 모형의 역할을 설명합니다.

같은 R^2라도 사용할 수 있는 행이 많으면 LM 통계량은 커집니다. 따라서 보조 회귀의 R^2만으로 귀무가설에 대한 증거를 판단할 수 없습니다. 자유도와 표본 수가 반영된 LM 통계량 또는 p값을 보고해야 합니다. 또 표본이 작거나 분포가 심하게 두꺼운 꼬리를 가지면 카이제곱 근사가 원하는 만큼 정확하지 않을 수 있습니다.

유의수준 5%에서 임계값과 비교하거나 p값을 볼 때는 같은 q를 사용해야 합니다. p값은 귀무가설 아래 관측된 LM 이상이 나올 근사 확률이지, 귀무가설이 참일 확률도 아니고 변동성 모형이 맞을 확률도 아닙니다. 프로그램이 LM 검정과 보조 회귀의 F 검정을 함께 제공할 수 있으니 이름만 보고 혼동하지 말고, 보고서에 어떤 통계량과 기준 분포를 썼는지 밝혀야 합니다.

표본 크기와 M을 혼동하지 않도록 하는 실무 점검도 중요합니다. 시차가 q이면 처음 q개 행은 필요한 과거값이 없어 빠지고, 중간 결측치나 수익률 정의에 따른 결측이 있으면 더 제외될 수 있습니다. M 대신 원래 전체 관측치 수를 대입하면 LM 통계량이 달라져 판단도 바뀔 수 있습니다. 회귀 결과표의 관측치 수와 직접 계산한 M을 대조하고, 비교하는 자산·기간에 같은 정렬 및 결측 규칙을 적용하세요.

작은 p값은 명시한 귀무가설과 근사 조건이 맞다면 제곱 잔차의 관측 관계가 드물다는 뜻입니다. 조건부 분산의 동학을 더 살펴볼 이유가 되지만, 특정 ARCH 또는 GARCH 모형의 예측력이 좋다는 증거는 아닙니다. 이상치, 구조 변화, 빠진 평균 동학, 시장 구성 변화, 다른 형태의 비선형 의존성도 기각을 일으킬 수 있습니다.

큰 p값도 분산이 일정하다는 증명은 아닙니다. 선택한 q가 다른 기간의 의존성을 놓쳤을 수 있고, 표본이 작아 검정력이 낮을 수도 있으며, 자료가 모형의 가정과 맞지 않을 수도 있습니다. “귀무가설을 기각하지 못했다”고 써야 합니다. “등분산이라고 확인됐다”는 표현은 검정이 보장하는 범위를 넘어섭니다.

특히 보조 회귀는 과거 제곱 잔차의 시차를 사용하므로, 외부 변수나 비대칭 충격에 따라 조건부 분산이 달라지는 모든 경우를 포괄하지 않습니다. 같은 크기의 양·음 충격에 분산이 다르게 반응하는 레버리지 효과도 기본 ARCH(q) 회귀만으로 충분히 설명되지 않을 수 있습니다. 이 결과는 검정한 명세에 관한 것이므로, 다른 메커니즘은 별도 모형과 진단으로 점검해야 합니다.

검정만으로 기대수익률이 양수인지, 신호가 경제적 가치를 갖는지, 옵션 가격이 비싼지 싼지도 알 수 없습니다. 변동성에 관한 통계적 근거와 거래 가능한 예측은 서로 다른 질문입니다.

통계적 유의성과 경제적 중요도도 다릅니다. 표본이 매우 크면 작은 관계가 유의할 수 있고, 반대로 실제 위험 관리에 중요한 패턴이 작은 표본에서는 검출되지 않을 수 있습니다. 표준화 잔차의 분포, 손실 민감도, 예측 기간에 맞는 위험 척도를 함께 검토해야 합니다.

관측 빈도, 보유 기간, 사전에 정한 진단 계획을 근거로 q를 고릅니다. 일간 수익률 연구는 며칠간의 지속성을 물을 수 있고, 월간 거시 시계열에서는 적절한 기간이 다를 수 있습니다. 모든 ARCH 검정에서 유효하고 검정력을 보장하는 공통 시차 수는 없습니다.

시차가 너무 짧으면 검정 창 밖에서 생기는 의존성을 놓칠 수 있습니다. 반대로 시차를 너무 많이 두면 자유도를 더 쓰고 보조 회귀가 불안정해질 수 있습니다. 작은 표본에서 특히 문제가 됩니다. 여러 값을 시도한 뒤 가장 작은 p값만 보고하지 말고, 정당한 대안 몇 가지에 대한 민감도를 보여 주세요.

합리적인 표본 기간과 평균 방정식이 달라질 때 결과가 어떻게 변하는지도 봅니다. 시차, 자산, 수익률 변환, 날짜를 여러 번 시험하면 우연한 기각 가능성이 높아집니다. 눈에 띄는 군집도 극단값 몇 개가 만들 수 있으므로 원래 시계열과 제곱 잔차의 자기상관 그래프를 함께 확인합니다.

시차는 검정 전에 연구 질문에 맞춰 정하고, 선택 근거를 결과와 함께 기록하면 사후 선택의 영향을 줄일 수 있습니다. 매일 데이터에 1~5거래일 시차를 쓰는 것과 주간 수익률에 1~5주 시차를 쓰는 것은 서로 다른 경제적 시간 범위를 검정합니다. 표본이 짧다면 큰 q는 각 시차를 추정할 정보량을 더 빠르게 줄입니다.

McLeod–Li 접근법은 제곱 잔차의 자기상관을 포트맨토 검정 방식으로 점검합니다. ARCH LM과 관련은 있지만 같은 보조 회귀를 쓰는 것은 아닙니다. McLeod와 Li의 원 논문은 ARMA 모형을 적합한 뒤 남은 의존성을 진단할 때 제곱 잔차 자기상관을 이용하는 방법을 설명합니다.

일반 잔차의 자기상관 검정은 평균 모형에 선형 시계열 의존성이 남았는지 묻습니다. 제곱 잔차에 의존성이 남아도 일반 잔차 검정은 조용할 수 있습니다. White의 이분산에 강건한 공분산 추정량과 이분산성 직접 검정은 계수 추론을 위한 공분산 추정과 이분산성 검정을 각각 다루고, Newey–West의 HAC 공분산 추정량은 이분산성과 자기상관을 반영한 계수 공분산을 추정합니다. ARCH LM은 제곱 잔차의 선택 시차 의존성을 검정합니다. 따라서 공분산 추정량은 계수 추론을 보정하고 ARCH LM은 특정 조건부 분산 패턴을 검정하므로, 서로 대체할 수 없습니다.

진단 결과를 단서의 묶음으로 사용하세요. 잔차와 제곱 잔차를 확인하고, 사전에 정한 시차 범위를 검정하고, 구조 변화와 이상치를 살핀 뒤 분산 모형이 표본 밖에서도 안정적인 가치를 더하는지 묻습니다. 다음 모형 선택은 변동성 군집과 GARCH 안내서를, 공분산 추정량 비교는 강건 표준오차 안내서를 참고할 수 있습니다.

앞의 HAC 추정량은 이분산성과 자기상관을 고려해 계수의 불확실성을 추정하지만, ARCH 모형은 시간에 따라 달라지는 조건부 분산을 직접 설명합니다. 연구 질문과 오차의 의존 구조에 맞춰 두 방법의 목적을 구분해야 합니다.

검정에서 ARCH 의존성이 남아 있을 가능성이 보이면 조건부 분산 모형을 위험 예측, 변동성 조절, 구간 추정의 후보로 평가할 수 있습니다. 과거 각 시점에서 알 수 있었던 정보만 사용해 적합하고, 합리적인 대안 모형과 비교한 뒤 표준화 잔차와 표준화 제곱 잔차를 다시 살펴봅니다. 적합 전 검정이 유의하다고 해서 적합한 모형이 의존성을 제거했다는 뜻은 아닙니다.

분산 예측을 사용한다면 표본 밖에서 간단한 기준 모형과 비교하고 목적에 맞는 손실 함수를 사용합니다. 거래 규칙에 연결하는 경우 급격한 변동, 국면 전환, 시장 휴장과 체결 비용도 고려해야 합니다. 표본 안에서 검정 통계량이 낮아졌다고 위험 관리가 개선되거나 순수익이 늘었다고 결론 내릴 수 없습니다.

실무적으로는 평균 방정식의 잔차를 만든 시점, 시차 q를 선택한 이유, 검정 이후 모형을 변경했는지 순서대로 남길 수 있습니다. 후보 모형이 있다면 추정 구간과 평가 구간을 분리하고, 평가 시점에는 미래 정보를 섞지 않습니다. 결과가 위험 한도나 포지션 크기를 바꾸는 데 쓰인다면 실제 체결 가능성, 공백, 레버리지와 손실 폭도 별도로 점검해야 합니다.

재현할 수 있도록 수익률 산식, 평균 방정식, 표본 날짜와 크기, 잔차 정의, q, 보조 회귀의 사용 행 수, R^2, LM 통계량, 자유도, p값, 시차와 기간 민감도를 함께 보고합니다. 그러면 결과가 답할 수 있는 범위를 분명히 할 수 있습니다.