프리애버리징 실현변동성: 미시구조 잡음 보정 방법

관측 가격이 효율가격 그대로라면 장중 수익률 제곱을 합산하는 방식은 해당 세션의 변동을 추정하는 자연스러운 출발점입니다. 하지만 실제 체결가격과 호가에는 매수·매도 호가 사이의 반등, 최소 호가 단위에 따른 반올림, 지연, 가격 이산성, 기록 방식의 영향이 섞일 수 있습니다. 표본 간격이 지나치게 짧아지면 제곱하는 수익률마다 이런 효과가 큰 비중을 차지합니다. 관측치를 더 많이 추가해도 잠재 가격의 움직임만 더 자세히 포착되는 것이 아니라 잡음의 기여가 빠르게 커질 수 있습니다.

프리애버리징은 제곱하기 전에 짧은 구간의 수익률을 결합해 이 문제에 대응합니다. 매끄러운 가중 함수는 창의 시작에서 0으로 출발해 이웃 수익률에 가중치를 주고, 창의 끝에서 다시 0이 됩니다. 이 가중합은 국소 필터처럼 작동합니다. 서로 독립적으로 빠르게 흔들리는 관측 오차는 일부 상쇄되는 반면, 효율가격의 더 넓은 움직임은 남을 수 있습니다. 창을 겹치면 관측 구간 전반의 정보를 사용할 수 있습니다.

평활화만으로 추정량이 불편해지는 것은 아닙니다. 필터링한 수익률을 제곱해도 잡음의 변동 기여가 남으므로 보정항이 필요합니다. Jacod, Li, Mykland, Podolskij, Vetter는 명시적인 가정 아래 적분 변동성을 추정하는 프리애버리징 방법을 제시하고, 적절히 구성한 추정량이 \(n^{-1/4}\) 수렴률을 얻을 수 있음을 보였습니다. 원 논문은 이 방법의 근거이며, 이 글은 계산 구조와 선택 사항, 한계를 설명합니다.

관측 시각 \(t_i\)의 잠재 효율 로그가격을 \(X_{t_i}\), 기록된 로그가격을 \(Y_{t_i}\)라고 두겠습니다.

\[ Y_{t_i}=X_{t_i}+\epsilon_{t_i}, \]

여기서 \(\epsilon_{t_i}\)는 관측 잡음입니다. 기본 모형에서는 \(X_t\)가 국소 분산율 \(\sigma_t^2\)를 갖는 연속 반마팅게일이라고 두며, 고정된 구간 \([0,T]\)에서 추정할 대상은 적분 분산입니다.

\[ IV_T=\int_0^T \sigma_t^2\,dt. \]

관측 수익률은 \(\Delta_iY=\Delta_iX+\epsilon_{t_i}-\epsilon_{t_{i-1}}\)로 나뉩니다. 가격 관측 오차가 시점별로 서로 독립이어도 인접한 수익률은 한쪽 끝점의 오차를 반대 부호로 공유합니다. 이 때문에 관측 수익률에 시차 의존성이 생기고, 모든 수익률을 사용하는 실현분산은 잡음이 포함된 차분의 개수에 민감해집니다.

기본 이론을 설명할 때는 평균이 0이고 시간에 따라 독립적이며 효율가격 과정과 독립인 잡음, 그리고 적절한 유한 적률을 가정하는 경우가 흔합니다. 이 가정은 추정량이 왜 필요한지 이해하기에 편리하지만 실제 체결가·호가·중간가격이 반드시 충족한다고 볼 수는 없습니다. 잡음은 유동성과 시간대에 따라 달라지거나 효율가격과 연관될 수 있고, 시계열 상관을 가질 수도 있습니다. 추정 대상도 분명히 해야 합니다. 점프가 있으면 이차 변동에는 점프 제곱이 포함되지만, 연속 성분의 적분 분산에는 포함되지 않습니다.

이 추정량은 명시한 가격 계열과 시간 구간을 대상으로 하는 사후 측정값입니다. 잠재 가격을 매 틱마다 복원하거나 오류가 있는 체결 하나를 식별하지 않으며, 다음 구간의 변동성을 알려 주지도 않습니다. 추정치를 비교하기 전에 입력 자료가 체결가격인지, 호가 중간가격인지, 다른 방식으로 만든 가격인지 밝혀야 합니다.

\(n\)개의 관측 수익률을 \(r_i=Y_{t_i}-Y_{t_{i-1}}\)라 하고, 정수 창 길이를 \(k_n\), 구간 \([0,1]\)의 가중 함수를 \(g\)라고 하겠습니다. 표준적인 프리애버리징 수익률은 다음과 같습니다.

\[ \bar r_i=\sum_{j=1}^{k_n-1}g\!\left(\frac{j}{k_n}\right)r_{i+j}, \qquad i=0,\ldots,n-k_n+1. \]

가중 함수는 보통 연속이고 양 끝에서 0이며, 점근 결과를 뒷받침할 만큼 매끄럽다고 가정합니다. 삼각형 모양의 예는 \(g(u)=\min(u,1-u)\)입니다. 창의 양 끝에서 가중치가 0이므로 경계에 놓인 수익률에 갑자기 큰 비중을 주지 않습니다. 이는 국소 가중치의 모양일 뿐, 추세를 적합하거나 가격을 예측하는 장치는 아닙니다.

각 \(\bar r_i\)는 이웃한 수익률을 제곱하기 전에 모읍니다. 창들이 서로 겹치기 때문에 원수익률이 독립이어도 프리애버리징 수익률은 서로 상관됩니다. 이 의존성은 표본분포의 일부이므로 창 합계가 많다는 이유로 독립 관측치처럼 취급하면 안 됩니다. 인덱스 범위와 끝점 처리도 가중 함수의 정규화에 맞춰야 합니다.

아래 그림은 더 부드러운 잠재 경로, 그 주위에서 흔들리는 관측 경로, 그리고 중첩된 감쇠 창을 보여 줍니다. 국소적으로 수익률을 묶는 과정을 설명하기 위한 그림이며, 실제 가격 표본이나 추정기의 실증 출력이 아닙니다.

<!-- learn:illustration --> <!-- 글자 없는 개념 그림: 부드러운 잠재 가격 곡선 옆에 들쭉날쭉한 관측 경로를 놓고, 이웃한 움직임을 묶는 중첩된 감쇠형 국소 창을 표시합니다. 개념 설명용이며 시장 자료, 예측 또는 매매 신호가 아닙니다. -->

프리애버리징은 빠른 관측 오차의 영향을 줄이지만, 필터링한 수익률 제곱에도 잡음 기여분은 남습니다. 등간격 표본에서 쓰는 한 가지 점근 정규화 표현은 다음과 같습니다.

\[ \widehat{IV}_{PA} =\frac{1}{k_n\psi_2}\sum_{i=0}^{n-k_n+1}\bar r_i^2 -\frac{\psi_1}{2\psi_2 k_n^2}\sum_{i=1}^{n}r_i^2, \]

가중치에 따른 상수는

\[ \psi_1=\int_0^1 \{g'(u)\}^2\,du, \qquad \psi_2=\int_0^1 g(u)^2\,du \]

로 정의합니다. 첫 항은 프리애버리징 수익률의 제곱합을 적분 분산에 맞게 재조정합니다. 둘째 항은 모형 아래에서 관측 잡음의 주요 기여를 추정해 뺍니다. 이는 잡음의 모든 실현값을 각각 추정하는 항이 아니므로 잘못된 가격 필드, 타임스탬프 오류, 이상치를 고쳐 주지는 않습니다. 실제 유한표본 계산에서는 \(\psi_1,\psi_2\)의 이산형 값이나 끝점 조정, 수익률 인덱스에 관한 관례를 사용할 수 있습니다. 그 정의를 기록하고 수식 전체에서 일관되게 적용해야 합니다.

보정 후 유한표본 추정치는 작거나 음수가 될 수 있습니다. 이는 자산의 물리적 분산이 음수였다는 뜻이 아니라, 그 표본에서 선택한 보정항이 첫 항보다 컸다는 뜻입니다. 음수 추정치를 조용히 0으로 바꾸지 마세요. 원래 계산값과 별도의 절단 규칙을 모두 밝혀야 합니다. 절단은 추정량을 바꾸며, 이후 평균이나 추론 결과에도 영향을 줄 수 있습니다.

창 길이 \(k_n\)는 평활화 정도를 조절합니다. 너무 짧으면 필터링 뒤에도 고빈도 잡음이 많이 남습니다. 너무 길면 잠재 가격의 움직임을 더 넓은 시간 범위에 걸쳐 평균내고, 사용할 창의 수도 줄어 다른 추정 오차가 커질 수 있습니다. 창 길이와 가중 함수는 함께 작동하므로, 가중 함수와 표본 간격을 모르면 \(k_n\)만 보고 추정량을 설명할 수 없습니다.

고정된 시간 구간에서 관측 수 \(n\)을 늘리는 고전적인 균형 설계에서는 창 길이가 대략 \(\sqrt n\)의 차수로 증가하며, 이를 \(k_n\sim\theta\sqrt n\)이라고 씁니다. 여기서 \(\theta\)는 양의 조정 상수입니다. 논문의 가정이 맞으면 해당 추정량은 \(n^{1/4}\)의 수렴률, 즉 추정 오차가 \(n^{-1/4}\)의 차수로 줄어드는 결과를 얻을 수 있습니다. 이는 잡음이 없을 때의 \(n^{1/2}\)보다 느립니다. 저자들이 살펴본 기본 잡음 환경에서의 최적 수렴률이지, 모든 시장 자료에서 보장되는 성능은 아닙니다.

\(\theta\), 가중 함수, 데이터 기반 창 선택 절차는 유한표본 편향과 분산에 영향을 줍니다. 자동 선택은 잡음과 변동성의 추정치를 사용할 수 있는데, 그 추정치 자체에도 불확실성이 있습니다. 타당한 범위의 창 길이별 민감도를 보여 주고, 표본 시간 기준과 세션 경계를 설명하세요. 선호하는 결론을 뒷받침하는 값이 무엇인지 확인한 뒤 창 길이를 선택하면 안 됩니다.

베이시스포인트 단위의 관측 수익률 6개를 가정하겠습니다.

\[ (r_1,\ldots,r_6)=(1,0,1,0,1,0)\ \mathrm{bp}. \]

삼각형 가중 함수 \(g(u)=\min(u,1-u)\)와 일부러 짧게 설정한 창 \(k=3\)을 사용합니다. 이산 가중치는 \(g(1/3)=g(2/3)=1/3\)입니다. 계산 과정을 정확히 보이기 위해 유한 격자 정규화 상수를 정의하면 다음과 같습니다.

\[ \psi_{2,k}=\frac{1}{k}\sum_{j=1}^{k-1}g(j/k)^2=\frac{2}{27}, \qquad \psi_{1,k}=k\sum_{j=1}^{k}\{g(j/k)-g((j-1)/k)\}^2=\frac{2}{3}. \]

앞서 정한 인덱스 관례에서는 겹치는 창이 \(n-k+2=5\)개 있습니다. 각 창은 이웃한 \(1\) bp와 \(0\) bp 수익률을 묶으므로 \(\bar r_i=(1/3)(1+0)=1/3\) bp입니다. 따라서

\[ \sum_i\bar r_i^2=5\left(\frac13\right)^2=\frac59\ \mathrm{bp}^2, \qquad \sum_{i=1}^{6}r_i^2=3\ \mathrm{bp}^2. \]

여기에 대응하는 이산 정규화를 적용하면

\[ \widehat{IV}_{PA} =\frac{1}{3(2/27)}\left(\frac59\right) -\frac{2/3}{2(2/27)3^2}(3) =2.5-1.5=1\ \mathrm{bp}^2 \]

를 얻습니다. 이 계산은 수식과 단위를 확인하기 위한 예입니다. 수익률 6개와 짧은 창은 점근 근사를 뒷받침하기에 턱없이 작습니다. 수치는 계산이 단순하도록 구성했으며 시장 자료, 잡음 과정을 시뮬레이션한 결과, 잠재 적분 분산이 실제로 복원됐다는 증거가 아닙니다. 표준오차나 예측값도 계산하지 않았습니다.

표준 유도는 연속 효율가격 과정과 정칙성 조건 아래 자주 관측되는 가법 잡음에 맞춰져 있습니다. 평균이 0이고 독립인 잡음은 출발점으로 이해하기 좋지만, 잡음과 가격의 상관, 계열 상관이 있는 오차, 시간에 따라 변하는 잡음, 불규칙한 관측 시각 또는 내생적 표본 선택에는 수정된 추정량이나 그 환경을 위한 이론이 필요할 수 있습니다. Aït-Sahalia, Mykland, Zhang은 종속적 미시구조 잡음 아래 적분 변동성을 추정하는 문제를 연구했습니다. 해당 논문은 독립 잡음 수식을 보편적인 해법으로 취급하면 안 되는 이유를 보여 주는 참고 자료입니다.

점프가 있으면 무엇을 추정할지 별도로 결정해야 합니다. 이차 변동을 대상으로 하면 점프 제곱이 포함되지만, 연속 성분의 적분 분산을 구하는 일반 프리애버리징 추정량이 점프를 자동 분리하지는 않습니다. 점프에 강한 절단 방법 등 별도 구성을 쓰려면 그 가정과 조정값을 따로 설명해야 합니다. 여러 창에 겹쳐 들어가는 큰 이상 체결 하나도 추정치에 큰 영향을 줄 수 있으므로 자료 검증과 이상치 처리는 계속 필요합니다.

프리애버리징 하나만으로 다변량·비동기 자료 문제까지 해결되는 것도 아닙니다. Christensen, Kinnebrock, Podolskij는 프리애버리징 공분산 방법과 비동기 관측을 위한 잡음 강건 Hayashi–Yoshida 확장을 제시했습니다(연구 논문). 이런 구성은 추가적인 표본 설계 문제를 다룹니다. 종목마다 단변량 수식을 따로 적용한다고 해서 타임스탬프 불일치가 해결되거나 유효한 공분산 행렬이 자동으로 만들어지는 것은 아닙니다.

세 방법은 비슷한 고빈도 변동 문제를 다루지만 자료를 조합하는 방식은 다릅니다. Two-scale realized volatility, 즉 TSRV는 시차를 둔 성긴 표본 격자에서 계산한 실현분산을 평균한 뒤, 잡음 편향을 보정하기 위해 촘촘한 격자 실현분산의 일정 배수를 뺍니다. 프리애버리징은 먼저 짧고 중첩된 수익률 창을 매끄러운 가중치로 필터링하고, 그렇게 만든 수익률을 제곱한 다음 그에 맞는 보정항을 적용합니다. 두 시간 척도 원 논문은 별도의 TSRV 구성을 다룹니다.

실현 커널은 수익률 제곱합에서 출발해 여러 시차의 수익률 자기공분산에 가중치를 더합니다. 커널 대역폭으로 포함할 시차 범위를 조절합니다. 프리애버리징은 제곱을 계산하기 전에 국소 수익률 자체를 바꿉니다. 둘 다 가중치와 조정값을 사용하지만 수식, 정규화, 가정은 서로 대체할 수 없습니다. 시차 기반 구조와 대역폭은 실현 커널 안내 글을 참고하세요.

방법 선택은 추정량 이름보다 자료와 필요한 측정량에 맞춰야 합니다. 표본 방식, 잡음 모형, 끝점 처리, 점프의 포함 여부, 유한표본 동작을 비교하세요. 점근적으로 잡음에 강하다는 사실이 희소 종목, 짧은 세션, 변하는 잡음, 불규칙 데이터 피드에서 더 나은 선택임을 보장하지는 않습니다. TSRV 안내 글은 그 방법의 척도와 보정 방식을 설명합니다.

재현 가능한 결과를 위해서는 자산과 입력 가격 필드, 시간 구간, 표본 빈도, 타임스탬프 및 세션 규칙, 수익률 단위, 가중 함수, 창 길이, 정규화, 끝점 관례, 잡음 가정을 밝혀야 합니다. 추론에 사용한다면 분산 추정량 또는 신뢰구간 계산법과 그에 필요한 가정도 적습니다. 타당한 창 길이 몇 가지에 대한 민감도 표는 결론이 특정 조정값 하나에 의존하는지 보여 줍니다.

적분 분산은 이미 관측한 구간에 대한 값입니다. 제곱근을 취하면 같은 구간의 변동성 척도로 단위가 바뀔 뿐, 미래 예측이 되지는 않습니다. 연율화를 하려면 시간 환산 관례를 밝혀야 하며, 연율화만으로 예측값이 만들어지는 것도 아닙니다. 이후 기간을 예측하려면 별도 예측 모형을 만들고 표본 밖에서 평가해야 합니다. 기본 실현분산은 실현 변동성 계산 안내 글, 경로 변동과 연속 적분 분산의 구분은 이차 변동 안내 글을 참고하세요.

이 추정량은 가격이 왜 움직였는지 증명하지 않고, 수익성 있는 전략을 식별하지도 않으며, 실제 체결 위험을 완전히 측정한다고 보장하지도 않습니다. 거래 비용, 유동성, 점프, 변동성 동학, 추정 불확실성은 별개의 문제입니다. 프리애버리징은 통계적 측정 도구이며, 그 유용성은 명시한 가정이 관측 자료와 얼마나 잘 맞는지에 달려 있습니다.