Engle–Granger 공적분 검정: 잔차와 오차수정모형

함께 오르는 두 시계열은 공통된 확률 추세 때문에 관계가 있어 보일 수 있습니다. 공적분은 더 구체적인 개념입니다. 개별 시계열이 1차 적분된 I(1)이더라도, 특정한 가중치를 적용해 결합하면 정상인 I(0) 조합이 존재할 수 있습니다. 이 조합은 선택한 모형에서 장기 균형 오차를 나타냅니다. 값이 무한히 떠도는 대신 안정된 분포 주변에서 움직인다는 뜻입니다.

Engle–Granger 2단계 절차는 이 주장을 단일 방정식으로 살펴보는 방법입니다. 첫 단계에서 수준값으로 장기 관계를 추정하고, 다음 단계에서 추정 잔차에 단위근이 있는지 검정합니다. 첫 단계에서 어느 변수를 좌변에 둘지 정해야 하므로 유한 표본에서는 검정이 방향에 따라 달라질 수 있습니다. 이 글은 고전적인 두 변수 설정에 초점을 맞춥니다. 여러 공적분 관계가 가능한 시스템의 순위 문제까지 해결하는 방법은 아닙니다.

일반적인 설정에서는 각 변수가 I(1)이라고 가정합니다. 선택한 모형 아래에서 수준값은 비정상이고 1차 차분은 정상이라는 뜻입니다. 단위근 검정은 완벽하지 않습니다. 표본이 짧거나 구조적 단절이 있거나 단위근 경계에 가까우면 특히 불확실합니다. 따라서 적분 차수 검정은 기계적으로 통과해야 하는 관문이라기보다 근거로 해석해야 합니다. I(0) 변수와 I(1) 변수를 섞은 경우는 여기서 설명하는 고전적 I(1) 공적분 설정에 해당하지 않습니다.

장기 관계식에 상수항, 결정적 추세, 또는 둘 다 없는 설정 중 무엇을 둘지 연구 질문에 따라 정합니다. 예를 들어 두 자산의 로그 가격을 볼 때 잔차에 상수항은 허용하되 결정적 추세는 두지 않는 모형을 고려할 수 있습니다. 경제 총량 변수에는 추세가 필요할 수 있습니다. 결정적 항의 선택은 추정하는 균형뿐 아니라 잔차 검정의 분포도 바꿉니다. 작은 p값을 찾은 뒤 결정적 항을 골라 넣으면 결과를 해석하기 어렵습니다.

두 수준 시계열 \(y_t\)와 \(x_t\)의 간단한 첫 단계 관계식은 다음과 같습니다.

\[ y_t = a + \beta x_t + u_t. \]

유지하는 가정 아래 보통최소제곱법으로 \(a\)와 \(\beta\)를 추정하고, \(\hat u_t = y_t-\hat a-\hat\beta x_t\)를 저장합니다. 해당 설정에서 두 시계열이 공적분되어 있다면, 각각의 수준값은 비정상이더라도 추정된 결합 잔차는 정상이어야 합니다.

금융 예시에서는 \(y_t\)와 \(x_t\)가 같은 빈도로 관측한 두 자산의 로그 총수익 지수일 수 있습니다. 계수 \(\hat\beta\)는 추정된 장기 결합식을 정의할 뿐, 자동으로 달러 중립이나 저위험 포트폴리오 비중이 되지는 않습니다. 좌변 변수, 표본 구간, 배당 반영 여부, 통화, 추세 설정을 바꾸면 추정치와 잔차가 달라질 수 있습니다. 식의 경제적 의미를 분명하게 유지해야 합니다.

증강 딕키–풀러 방식의 잔차 회귀식은 다음과 같이 쓸 수 있습니다.

\[ \Delta\hat u_t = \rho\hat u_{t-1} + \sum_{j=1}^{q}\phi_j\Delta\hat u_{t-j} + e_t. \]

공적분이 없다는 귀무가설은 잔차에 단위근이 있다는 뜻이고, 대립가설은 추정된 잔차가 정상이라는 뜻입니다. 위처럼 간단히 쓴 식에서는 충분히 음수인 잔차 검정 통계량이 귀무가설에 반하는 근거가 됩니다. 시차 항은 잔차의 계열 상관을 반영하도록 돕기 때문에, 시차 차수와 잔차 진단이 중요합니다. 이는 공적분 임계값 유형을 고르는 첫 단계의 상수항·추세 설정과 별개의 선택입니다. 증강 시차가 너무 적으면 계열 상관이 남을 수 있습니다. Agiakloglou와 Newbold의 논의처럼 시차 차수를 어떻게 정했는지 밝히고, 타당한 대안도 점검합니다.

잔차는 첫 단계에서 계수를 추정한 뒤 얻은 값이므로 귀무가설 아래의 분포가 달라집니다. 따라서 이 통계량을 일반 딕키–풀러 임계값이나 보통 ADF p값과 바로 비교하면 안 됩니다. 선택한 결정적 항, 변수 수, 표본 크기에 맞는 Engle–Granger 잔차 검정 임계값 또는 p값을 써야 합니다. Phillips와 Ouliaris는 잔차 기반 검정의 점근 이론을 전개했고, MacKinnon은 대표적 설정의 임계값을 응답곡면으로 추정했습니다.

따라서 잔차 검정 통계량의 숫자가 같더라도 첫 단계의 결정적 항이나 설명변수 수가 달라지면 비교할 기준 임계값도 달라질 수 있습니다.

연구자가 일정한 월별 표본에서 두 로그 가격 지수를 살펴본다고 해보겠습니다. 명시한 단위근 모형에 따르면 두 시계열 모두 I(1)인 것처럼 보입니다. 상수항을 포함한 첫 단계 회귀식에서 적합 잔차를 계산하고, 통상적인 ADF 표가 아니라 해당 결정적 설정과 표본에 맞춘 Engle–Granger 분포로 잔차 검정 통계량을 평가합니다.

이 설정에 맞춘 검정에서 연구자가 사전에 정한 5% 기준보다 p값이 작게 나왔다고 가정하겠습니다. 연구자는 해당 모형에서 공적분이 없다는 귀무가설을 기각하고, 추정된 결합식이 정상이라는 근거를 얻습니다. 결론은 표본, 시차 선택, 결정적 항, 적분 가정에 따라 달라질 수 있습니다. 모든 자산 쌍이 관계가 있다거나 표본 밖에서도 관계가 유지된다거나 추정 잔차가 수익성 있는 진입 신호라는 사실을 입증하지는 않습니다. 반대로 p값이 5%보다 컸다면 “이 설정에서 공적분이 없다는 귀무가설을 기각하지 못했다”고 해석해야 합니다. “두 시계열이 아무 관계가 없음이 증명됐다”는 뜻은 아닙니다.

아래 그림은 공통 확률 추세와 그 주변에서 제한된 범위로 움직이는 잔차, 장기 관계에서 벗어난 값이 다시 작아지는 모습을 개념적으로 나타냅니다. 실제 자료에서 측정한 값은 없으며 조정 속도가 언제나 예측 가능하다는 뜻도 아닙니다.

장기 관계를 뒷받침하는 근거가 있다면, 오차수정모형은 단기 변화와 직전 기간의 균형 오차를 함께 다룰 수 있습니다. \(\hat u_{t-1}=y_{t-1}-\hat a-\hat\beta x_{t-1}\)일 때 한 가지 예시는 다음과 같습니다.

\[ \Delta y_t = c + \lambda\hat u_{t-1} + \sum_{i=1}^{r}\phi_i\Delta y_{t-i} + \sum_{j=0}^{s}\theta_j\Delta x_{t-j} + \epsilon_t. \]

여기서 \(\lambda\)는 이 모수화에서 \(y_t\)의 조정 계수입니다. \(y\)가 추정된 관계보다 높은 상태이고 \(\lambda<0\)이면, 다른 조건이 같을 때 오차수정 항은 \(y\)의 하락 방향 변화에 기여합니다. 이 부호 해석은 \(\hat u=y-\hat a-\hat\beta x\)라는 정의에 따릅니다. 잔차를 반대 방향으로 정의하면 계수의 부호도 반대로 바뀝니다. 단기 계수는 그 밖의 조건부 반응을 나타냅니다. 다른 변수도 조정에 참여할 수 있습니다. 공적분만으로 어느 시장이나 경제 변수가 조정을 부담하는지 알 수는 없습니다.

모형에 그런 단순한 동학이 실제로 들어 있지 않다면 \(\lambda\)를 “매달 스프레드의 이 비율이 닫힌다”고 곧바로 번역하면 안 됩니다. 시차 변화, 여러 조정 변수, 비선형 반응, 구조적 단절이 전체 경로에 영향을 줍니다. 안정적인 장기 관계가 구조적 인과 기제를 뜻하지도 않습니다. 조정 계수는 명시한 모형과 정보집합을 조건으로 해석해야 합니다.

Engle–Granger 단일 방정식 설정은 종속변수와 여러 설명변수를 포함하더라도 제안된 장기 결합식 하나를 검정할 수 있습니다. 두 개의 I(1) 변수라면 공적분 순위의 최댓값은 1이고, 더 큰 시스템에서는 여러 공적분 벡터가 존재할 수 있습니다. 잔차 검정 하나로 시스템 전체 순위를 정할 수는 없습니다. Johansen 절차는 자체 VAR 및 결정적 항 가정 아래 그 순위를 묻도록 설계됐습니다.

첫 단계의 정규화도 유한 표본에서 중요합니다. 장기 관계는 개념적으로 결합식에 관한 것이지만, \(y\)를 \(x\)에 회귀한 결과와 \(x\)를 \(y\)에 회귀한 결과는 일반적으로 수치상 동일하지 않습니다. 경제적으로 설명할 수 있는 기준으로 정규화를 선택하고 보고해야 합니다. 회귀식을 뒤집었을 때 결론이 달라지면 유리한 쪽만 고르지 말고 민감도를 설명합니다.

표본이 작으면 검정력이 낮을 수 있고, 시차 선택, 결정적 항, 이상치, 구조적 단절도 결과에 영향을 줍니다. 장기 관계의 단절은 과거에는 정상적이었던 결합식을 전체 표본에서 불안정하게 보이게 할 수 있습니다. 한 번의 기각은 유지된 가정 아래의 근거이지 관계가 영구적이라는 증명이 아닙니다.

거래 연구에서는 적합 잔차를 스프레드라고 부를 수 있지만, 그 이름만으로 실행 가능한 포트폴리오가 정해지지는 않습니다. 로그 가격으로 만든 스프레드는 금액 단위 포지션과 다릅니다. 가격만 반영한 자료와 총수익 자료도 다릅니다. 회귀 계수는 시간에 따라 바뀔 수 있고, 잔차가 정상이라고 추정되어도 진입 기준, 보유 기간, 손절 규칙, 포지션 크기가 자동으로 나오지 않습니다.

각 의사결정 시점에 알 수 있었던 자료만 사용해 장기 관계를 추정해야 합니다. 전체 백테스트 기간으로 헤지 계수를 추정한 뒤 과거 시점에서 거래하면 미래 자료가 신호에 들어갑니다. 시간 순서에 맞춰 형성 기간과 평가 기간을 나누고, 배당, 분할, 차입 가능성, 금융 비용, 매수·매도 호가 차이, 시장 충격, 재조정 비용을 반영합니다. 진단 결과가 관계의 단절을 가리킬 때 어떻게 할지도 정합니다. 여러 자산 쌍과 기간을 찾아보는 과정에서 생기는 선택 편향은 공적분 검정으로 해결되지 않습니다.

실무에서 중요한 질문은 잔차 검정 하나가 기각됐는지가 전부가 아닙니다. 경제적으로 관계가 지속될 이유가 있는지, 투명한 안정성 점검을 통과하는지, 불확실성과 거래 비용까지 반영해 실행 규칙이 남는지 살펴야 합니다. 공적분은 모형에 정보를 줄 수 있지만 수렴, 헤지 효과, 수익을 보장하지 않습니다.

변수, 변환, 관측 주기, 표본 날짜, 적분 차수 근거, 첫 단계 정규화를 적습니다. 상수항이나 추세 포함 여부, 잔차 검정 종류, 시차 선택 방식, 검정 통계량, 공적분 전용 임계값 또는 p값의 출처를 밝힙니다. 정당한 대안 시차나 표본 구간에 대한 민감도를 보고하고 구조적 단절 분석을 했는지도 씁니다.

오차수정모형을 추정했다면 시차 균형 오차와 부호 규약을 정의하고, 어떤 변수가 조정하도록 허용했는지 적습니다. 단기 계수와 장기 관계를 구분합니다. 거래 연구라면 시간 순서에 따른 표본 분할, 자산 쌍 선택 규칙, 거래 비용, 금융 비용, 차입 가정, 실패 처리 기준도 공개해야 합니다. 이런 정보가 있어야 수렴하는 것처럼 보이는 차트와 재현 가능한 검정을 구별할 수 있습니다.

Engle과 Granger의 공적분과 오차수정에 관한 원 논문은 표현 정리, 추정, 검정의 연결을 전개합니다. Phillips와 Ouliaris는 잔차 기반 공적분 검정의 점근 이론을 제시합니다. MacKinnon의 공적분 임계값 연구는 표본 크기와 검정 설정에 따라 달라지는 응답곡면 값을 설명합니다. Agiakloglou와 Newbold는 증강 딕키–풀러 검정의 시차 구조90022-Q)를 살펴봅니다. 관계가 여러 개일 수 있는 시스템은 Johansen의 공적분 벡터 분석90041-3)을 참고할 수 있습니다. 함께 읽을 글로 페어 트레이딩에서 공적분과 상관관계의 차이, 단위근과 평균회귀, 충격반응을 추정하는 로컬 프로젝션가 있습니다.