Kalman Filter 헤지 비율: 페어 트레이딩 동적 회귀

고정 헤지 비율은 형성 표본에서 계수 하나를 추정한 뒤 그대로 둡니다. 동적 헤지 모형에서는 절편과 기울기를 시간에 따라 움직일 수 있는 잠재변수로 둡니다. Kalman filter는 이전 추정치와 새 관측값의 정보를 결합해 이를 재귀적으로 추정합니다.

두 후보 자산에서 \(y_t\)를 한 자산의 로그 가격, \(x_t\)를 다른 자산의 로그 가격이라고 하겠습니다. 변화하는 장기 회귀는 \(y_t=\alpha_t+\beta_t x_t+\epsilon_t\)로 쓸 수 있습니다. 계수 \(\beta_t\)는 시점 \(t\)에서 적합한 관계를 나타냅니다. 이것이 자동으로 주식 수, 달러 중립 포지션, 안정적인 경제 법칙이 되는 것은 아닙니다.

이 응용은 선형 상태공간 모형의 일반적인 예측·갱신 순환을 사용합니다. Kalman은 재귀 필터링 틀을 제시했고, 이후 계량경제학 연구는 시간에 따라 변하는 회귀계수 추정에 이를 적용했습니다. 확률적 스프레드에 기반한 페어 트레이딩도 한 응용이지만, 거래 가정은 필터 알고리즘과 별도로 평가해야 합니다.

상태 벡터와 관측 행렬을 다음과 같이 정의합니다.

\[ \theta_t= \begin{bmatrix}\alpha_t\\\beta_t\end{bmatrix}, \qquad H_t=\begin{bmatrix}1&x_t\end{bmatrix}. \]

관측식은 \(y_t=H_t\theta_t+\epsilon_t\)입니다. 관측된 로그 가격이 잠재 절편·헤지 계수와 관측 잡음의 합으로 연결된다는 뜻입니다. 흔히 사용하는 출발점은 두 계수가 랜덤 워크를 따르는 것입니다.

\[ \theta_t=\theta_{t-1}+\eta_t,\qquad \eta_t\sim N(0,Q),\qquad \epsilon_t\sim N(0,R). \]

여기서 \(Q\)는 계수 변화의 공분산이고 \(R\)은 관측 잡음의 분산입니다. \(Q=0\)이면 이 모형의 계수는 고정되어 있고, 양의 \(Q\)는 계수가 움직이는 것을 허용합니다. 다른 상태 전이식도 가능하지만, 각 선택은 관계가 시간에 따라 어떻게 변하는지에 대한 별도의 가정을 추가합니다.

\(Q\)를 대각행렬로 두면 절편과 기울기의 변화 충격이 서로 무상관이라는 가정이 추가됩니다. 비대각 항은 두 충격의 공동 움직임을 허용하지만, 표본에 그 공분산을 추정할 정보가 충분한지 확인해야 합니다. 유효한 공분산 행렬은 대칭이고 양의 준정부호여야 합니다.

이 단순한 명세는 평균이 0이고 시계열 상관이 없으며 서로 독립인 과정·관측 교란을 가정합니다. 이는 모형의 가정이지, 가격 관측값이 자동으로 충족하는 성질은 아닙니다.

\(t-1\) 시점이 끝날 때 필터에는 추정치 \(\hat\theta_{t-1|t-1}\)와 공분산 \(P_{t-1|t-1}\)이 있습니다. 랜덤 워크 상태식은 다음을 예측합니다.

\[ \hat\theta_{t|t-1}=\hat\theta_{t-1|t-1}, \qquad P_{t|t-1}=P_{t-1|t-1}+Q. \]

추정치는 이어지고, 불확실성은 허용한 계수 변화 공분산만큼 커집니다. \(P\)는 지정된 모형 아래 잠재 회귀 상태가 얼마나 불확실한지를 나타냅니다. 페어 거래의 손실을 예측하거나 포트폴리오 위험 전체를 재는 지표는 아닙니다.

한 단계 앞선 관측 예측은 \(H_t\hat\theta_{t|t-1}\)입니다. 이 사전 상태는 새 \(y_t\)를 보지 않고 계산됐다는 점이 중요합니다. 같은 관측값으로 계수를 갱신한 뒤 잔차를 구하면, 그 잔차는 이미 갱신 과정에 의해 0 쪽으로 이동한 값입니다.

관측행렬 \(H_t\)에는 \(x_t\)가 들어가므로 현재 설명변수의 가격 수준은 \(S_t\)와 gain에 영향을 줍니다. 기울기 불확실성이 크면 \(x_t\) 값에 따라 \(\beta_t\)에 주는 정보가 달라질 수 있지만 절편·기울기 공분산도 함께 작용합니다. \(x_t\)를 중심화하거나 스케일을 바꾸면 절편의 의미와 계수 단위가 달라지므로 \(Q\)의 해당 원소와 초기 \(P\)도 다시 변환하거나 추정해야 합니다. 기존 수치를 그대로 복사하면 안 됩니다.

새 관측값이 들어오면 한 단계 예측오차인 innovation은 다음과 같습니다.

\[ v_t=y_t-H_t\hat\theta_{t|t-1}, \qquad S_t=H_tP_{t|t-1}H_t^{\mathsf T}+R. \]

Innovation 분산 \(S_t\)는 예측한 상태 불확실성과 관측 잡음을 결합합니다. Kalman gain과 상태 갱신식은 다음과 같습니다.

\[ K_t=P_{t|t-1}H_t^{\mathsf T}S_t^{-1}, \qquad \hat\theta_{t|t}=\hat\theta_{t|t-1}+K_tv_t. \]

Gain은 새로 관측된 차이를 추정 관계에 반영할지, 잡음으로 볼지 배분합니다. Gain이 크면 해당 관측값에 더 크게 맞춰집니다. 관계가 더 신뢰할 만하다는 뜻은 아닙니다.

가상 필터가 \(\hat\alpha=2.0\), \(\hat\beta=1.20\)을 예측했고 \(x_t=50\)이라고 해보겠습니다. 예측 \(y\)는 62.0입니다. 관측 \(y_t=62.8\)이면 innovation은 \(0.8\)입니다. 모형의 gain이 \([0.08,0.006]^{\mathsf T}\)라고 가정하면 갱신 절편은 \(2.064\), 기울기는 \(1.2048\)입니다. 계산을 설명하기 위한 가상값이지, 실증 헤지 비율이나 이탈이 되돌아올 증거가 아닙니다.

과정 잡음 행렬 \(Q\)는 회귀계수가 관측 사이에서 얼마나 변할 수 있는지 정합니다. \(Q\)가 크면 일반적으로 gain이 커져 추정치가 더 민감해집니다. 실제 관계 변화를 더 빨리 따라갈 수 있지만, 일시적인 잡음을 쫓고 헤지 비중을 급격히 바꿀 수도 있습니다. \(Q\)가 너무 작으면 추정치는 매끄럽지만 실제 구조 변화에 뒤처질 수 있습니다.

관측 잡음 분산 \(R\)은 관계식으로 설명되지 않는 \(y_t\)의 변동을 나타냅니다. 다른 값이 같을 때 \(R\)이 커지면 새 관측값을 덜 신뢰합니다. \(Q\), \(R\) 어느 쪽도 모든 경우에 통하는 조정 상수가 아닙니다. 모형이 가격, 로그 가격, 정규화 계열 중 무엇을 쓰는지와 관측 간격에 따라 스케일이 달라집니다.

우도로 잡음 모수를 추정하거나 형성 표본에 맞춰 사전에 정할 수 있지만, 최종 거래 기간의 결과를 보고 조정하면 미래 정보가 유입됩니다. 시작 상태 \(\hat\theta_{0|0}\)와 공분산 \(P_{0|0}\)도 중요합니다. 초기 불확실성이 크면 초기에 빠른 조정 구간이 생길 수 있습니다. 초기값, 모수 추정 표본, 합리적인 대안 설정에 대한 민감도를 보고해야 합니다.

Filtering 추정치 \(\hat\theta_{t|t}\)는 \(t\)까지의 관측값을 씁니다. Smoothing 추정치는 \(t\) 이후에 들어온 관측값을 이용할 수 있습니다. Smoothing은 과거 잠재 상태를 설명하는 데 유용하지만, 그 시점의 트레이더가 사용할 수 있었던 정보는 아닙니다.

\(Q\), \(R\), 페어 선택, 신호 임계값 추정에도 같은 시점 문제가 있습니다. 전체 표본으로 한 번만 맞추면 계수 재귀가 한쪽 방향으로 진행되더라도 과거 추정치가 미래 관측에 기대게 됩니다. 실시간 모의 검증에서는 형성 기간 자료로 초모수를 맞추고, 이를 고정하거나 사전에 밝힌 워크포워드 일정으로 갱신하며, 체결 전에 이용할 수 있던 정보로 매 시점 포지션을 정해야 합니다.

관측 시점은 체결 시점이 아닙니다. \(t\) 종가로 \(v_t\)를 계산했다면, 실제로 가능한 실행 절차가 없는 한 같은 종가에 체결됐다고 백테스트할 수 없습니다. 다음에 체결 가능한 호가나 타당한 체결 모형을 사용하고 스프레드, 시장 충격, 수수료, 대차·금융 비용을 반영합니다.

페어 연구에서 사전 갱신 innovation \(v_t\)는 이전에 추정한 관계와 비교한 차이입니다. \(\sqrt{S_t}\)로 나누면 모형 아래 표준화 innovation이 됩니다. 추정 불확실성이 시점마다 다를 때 놀라움의 크기를 비교하는 데 도움이 되지만, 두 자산을 얼마만큼 사고팔지 또는 큰 이탈이 되돌아올지는 알려주지 않습니다.

갱신 후 잔차 \(y_t-H_t\hat\theta_{t|t}\)는 현재 관측값을 사용해 계수를 수정했으므로 다른 값입니다. 이 잔차를 사전 갱신 시점의 임계값과 섞으면 신호의 의미가 달라집니다. 스프레드, 계산 시점, 임계값을 명시하고 계수가 사전, 필터링, 스무딩 추정치 중 무엇인지 밝혀야 합니다.

로그 가격에서 추정한 \(\beta_t\)도 주문으로 바꾸려면 별도의 포지션 규칙이 필요합니다. 로그 가격 가중치가 곧 주식 수나 계약 수를 뜻하지 않습니다. 가격, 계약 승수, 통화, 계좌 제약이 달러 노출을 정하며 절편은 거래 자산이 아닙니다. 계수 갱신 사이의 재조정 비용과 노출 변화도 고려해야 합니다.

느리게 움직이는 계수는 점진적 변화를 표현하는 유용한 방법일 수 있지만, 관계가 깨진 상황을 흡수할 수도 있습니다. 상태를 유연하게 둔 모형은 안정된 장기 균형이 없어도 적합 잔차가 작아 보이게 만들 수 있습니다. 필터는 공적분 검정을 하지 않으며 잔차의 정상성을 보장하지 않습니다.

페어 선택도 중요합니다. 여러 자산을 검색한 뒤 표본 안 잔차가 가장 매끄러운 페어를 고르면 관계 안정성을 주장하는 데이터와 선택하는 데이터가 같습니다. 기업행위, 오래된 가격, 비동시 종가, 공매도 제약, 유동성 변화, 체제 전환은 추정 상태를 바꾸거나 이론상 헤지를 실제 체결하기 어렵게 만들 수 있습니다.

적합선 외에도 잔차 거동, 상태 불확실성, 회전율, 계수 경로를 살펴봅니다. 시간 순서를 지킨 표본 외 구간에서 고정 비율 기준과 비교합니다. 더 적응적인 추정은 현실적인 비용 뒤에도 회전율과 추정 위험을 보상해야 합니다. 시각적으로 매끄럽다는 것만으로 성과가 입증되지는 않습니다.

어떤 가격·수익률을 모형화했는지, 변환 방식, 관측 주기, 표본 기간, 회귀식 좌변의 자산을 밝힙니다. 관측식과 상태식, 전이 행렬, \(Q\), \(R\), 초기화 방식, 추정 방법, 제시한 상태가 filtering인지 smoothing인지 적습니다.

거래 결과를 보고할 때는 신호에 쓴 innovation 또는 스프레드, 표준화 방식, 의사결정 시각, 주문 지연, 포지션 크기, 재조정 규칙, 모든 실행 비용을 정의합니다. 페어 선별, 학습·검증 구간, 잡음 모수의 재조정 방식, 구조 변화나 누락 관측 이후 전략 동작을 설명합니다. 고정·동적 계수 전략은 같은 시간순 분할에서 비교합니다.

Kalman의 선형 필터링 논문은 재귀 체계를 전개합니다. Hatanaka는 일부 계수가 시간에 따라 변하는 회귀를 연구합니다. Elliott, van der Hoek, Malcolm은 페어 트레이딩의 확률 모형을 제시합니다. 관련 주제는 Kalman 예측·갱신, 페어 트레이딩의 공적분과 상관관계, Johansen 순위 검정, 분산비 검정 안내에서 볼 수 있습니다.