변동성 예측 비교: QLIKE와 제곱오차, 잡음이 있는 대리변수

변동성 모형은 미래 수익률이 얼마나 넓게 퍼질지를 예측하며, 수익률이 오를지 내릴지는 예측하지 않습니다. 평가하려면 목표를 먼저 정해야 합니다. 예를 들어 다음 날 수익률의 조건부분산을 제곱 베이시스포인트 단위로 평가할 수 있습니다. 표준편차 예측, 분산 예측, 장중 실현분산 추정치는 서로 관련되어 있지만, 변환식과 예측 구간을 명시하지 않으면 같은 값으로 볼 수 없습니다.

이 질문은 모형이 예측치를 만드는 방식과 별개입니다. GARCH 안내서는 과거 수익률로 조건부분산을 갱신하는 한 가지 방법을 설명합니다. 이 글은 두 개 이상의 모형이 예측을 만든 뒤, 나중에 관측되는 불완전한 분산 측정치와 비교할 때 어떤 점수를 쓸지 살펴봅니다.

목표, 평가 표본, 손실함수를 정하기 전에는 “가장 좋은 예측”에 단 하나의 뜻이 없습니다. 같은 모형도 손실함수마다 예측 오차에 부여하는 비용이 달라 순위가 달라질 수 있습니다

vₜ를 관측할 수 없는 조건부분산, hₜ를 해당 수익률이 나오기 전에 만든 예측, xₜ를 평가에 쓰는 관측 대리변수라고 하겠습니다. 흔한 대리변수는 제곱수익률이지만, 이는 조건부 평균이 0일 때만 분산의 조건부 불편 추정치입니다. 조건부 평균이 0이 아니라면 원수익률 제곱은 조건부분산이 아니라 조건부 2차 적률을 추정합니다. 조건부 평균을 적절히 제거한 수익률로 대리변수를 구성할 수도 있습니다. 장중 수익률을 더한 실현분산은 장중 변동에 관한 정보를 더 담을 수 있지만, 여전히 특정 구간을 측정한 값이며 표본추출과 가격자료 규칙에 좌우됩니다.

조건부 평균을 추정했다고 해서 대리변수 편향이 자동으로 사라지는 것은 아닙니다. mₜ = E[rₜ | Fₜ₋₁], hₜ = Var(rₜ | Fₜ₋₁)이고 추정 평균 m̂ₜ가 예측 시점에 이용 가능한 정보로 정해졌다면, E[(rₜ − m̂ₜ)² | Fₜ₋₁] = hₜ + (mₜ − m̂ₜ)²입니다. 따라서 예측 가능한 평균 추정 오차가 대리변수에 0 이상의 항을 더합니다. 조건부 불편성 결과를 적용하기 전에 평균을 어떻게 추정했는지, 대리변수가 분산과 이차적률 가운데 무엇을 겨냥하는지 밝혀야 합니다.

xₜ와 hₜ는 같은 자산, 수익률 정의, 시간 구간, 예측 기간, 단위를 사용해야 합니다. xₜ가 bp²로 측정되었다면 hₜ도 bp²여야 하고, 제곱오차 손실은 bp⁴가 됩니다. 일별 종가 간 조건부분산 예측을 평가하면서 의도된 목표라는 설명 없이 야간 구간을 제외한 실현분산과 비교해서는 안 됩니다.

같은 평가 시점의 대리변수와 모든 모형의 예측치를 보존하세요. 한 모형의 예측이 특정 날짜에 없다면 사전에 정한 공통 표본이나 타당한 결측 규칙을 적용합니다. 서로 다른 날짜를 사용한 평균을 비교하면 모형 성능 차이와 각 모형이 마주한 시장 국면 차이를 분리하기 어렵습니다

음이 아닌 분산 대리변수 xₜ와 양수인 분산 예측 hₜ에 대한 제곱오차 손실은 다음과 같습니다.

L_MSE(xₜ, hₜ) = (xₜ − hₜ)²

QLIKE 손실은 다음 식으로 계산합니다.

L_QLIKE(xₜ, hₜ) = log(hₜ) + xₜ / hₜ

점수가 낮을수록 좋습니다. xₜ가 양수일 때 QLIKE는 xₜ/hₜ − log(xₜ/hₜ) − 1이라는 비율식으로도 쓸 수 있습니다. 두 식은 관측 대리변수에만 의존하고 예측치에는 의존하지 않는 항만큼 차이가 나므로, 같은 표본의 모형 순위는 같습니다. log(hₜ) 식은 hₜ가 양수이면 xₜ가 0이어도 정의됩니다. Patton은 분산 손실을 이와 같이 정의하고 불완전한 대리변수에서의 특성을 분석합니다(Patton, 2011).

QLIKE는 가우스 준우도에서 나오는 분산 점수와 대응합니다(Hansen과 Lunde, 2005). 그렇다고 수익률이 가우스 분포임을 입증하거나, 점수가 낮다는 이유로 분포 가정이 맞다고 확인해 주지는 않습니다. 제곱오차는 대리변수와 예측치 사이의 절대 차이를 제곱해 측정합니다. 비교 목적과 대리변수 가정에 맞는 점수를 선택하는 것이 핵심입니다

제곱오차 손실은 분산의 제곱 단위이며 대리변수와 예측치가 멀어질수록 빠르게 커집니다. 따라서 몇 개의 매우 큰 대리변수 관측치가 평균 점수를 좌우할 수 있습니다. 분산 단위의 큰 절대 오차에 더 큰 비용을 부여해야 하는 목적에는 적절할 수 있지만 극단 관측치에 민감합니다.

분산 단위를 바꾸어 xₜ와 hₜ에 같은 양의 상수 c를 곱하면 log(hₜ) + xₜ/hₜ 점수에 log(c)가 더해집니다. 같은 대리변수 표본에서 모든 예측에 동일한 상수항이 더해지므로 모형 순위는 바뀌지 않습니다. xₜ/hₜ 비율은 단위 변환에 영향을 받지 않지만 log(hₜ)의 절대값은 선택한 단위에 따라 달라집니다. 예측치가 큰 대리변수에 비해 지나치게 작으면 비율 항이 빠르게 커집니다. 과대예측도 log(hₜ)가 커지면서 비용이 늘지만, 비슷한 비율의 오차라면 증가 속도가 더 완만합니다. QLIKE도 이상치에 강한 손실은 아닙니다. 대리변수가 극단적으로 크면 xₜ/hₜ 항도 커집니다.

어느 손실도 모든 의사결정에서 우월하지 않습니다. 제곱오차는 분산 단위의 절대 오차에 큰 가중치를 주고 QLIKE는 비율 오차를 다른 형태로 반영합니다. Patton의 대리변수 강건성 결과는 두 손실의 모형 순위가 같거나 이상치에 영향을 받지 않는다는 뜻이 아닙니다

관측된 분산 대리변수가 x = [1, 4] bp²라고 하겠습니다. 모형 A의 예측은 hᴬ = [1, 1] bp², 모형 B는 hᴮ = [4, 2] bp²입니다. 아래 값은 손실에 따라 순위가 달라지는 모습을 보여 주기 위한 가상 예시입니다.

평균 제곱오차는 모형 A가 4.5 bp⁴, 모형 B가 6.5 bp⁴이므로 A가 낮습니다. 평균 QLIKE는 모형 B가 약 2.165로 모형 A의 2.5보다 낮습니다. 두 행은 계산법만 보여 줍니다. 불확실성을 추정하거나 더 나은 예측임을 입증하기에는 관측 수가 너무 적고, 거래전략에 관해서는 아무것도 말해 주지 않습니다 <!-- learn:illustration -->

변동성 대리변수에 잡음이 있어도 조건부 불편성은 만족할 수 있습니다. 예측 시점에 이용 가능한 정보를 Fₜ₋₁이라 하고 E[xₜ | Fₜ₋₁] = vₜ라고 하겠습니다. 해당 정보로 만든 예측 hₜ의 기대 제곱오차는 다음과 같습니다.

E[(xₜ − hₜ)² | Fₜ₋₁] = (vₜ − hₜ)² + Var(xₜ | Fₜ₋₁)

분산 항은 어느 예측치를 평가하는지에 따라 달라지지 않습니다. 따라서 두 예측치의 기대 손실을 비교할 때 잡음 분산은 양쪽에서 상쇄되고, 두 모형의 기대 제곱오차 순위는 유지됩니다. QLIKE에서는 조건부 불편성에 따라 다음 관계가 성립합니다.

E[log(hₜ) + xₜ/hₜ | Fₜ₋₁] = log(hₜ) + vₜ/hₜ

잠재분산 vₜ를 대리변수 대신 사용했을 때의 점수와 같습니다. 이 조건에서 두 손실은 잠재 목표에 대한 경쟁 예측의 기대 순위를 각각 보존합니다. Patton(2011)이 말하는 대리변수 강건성은 기대 순위의 잡음 불변성을 뜻하며 이상치에 대한 내성을 뜻하지 않습니다.

이 결과는 같은 조건부 정보집합, 조건부 불편 대리변수, QLIKE를 위한 양수 예측, 유한한 기대손실을 가정합니다. 제곱오차와 QLIKE가 서로 같은 모형 순위를 만든다는 뜻은 아닙니다. 앞의 두 기간 예시에서 보듯이 같은 잡음 있는 관측치를 평가해도 두 손실은 예측 오차에 서로 다른 중요도를 부여합니다.

같은 예측 시점에 정해진 두 예측치 hᴬₜ와 hᴮₜ의 기대 MSE 차이는 E[L_MSE(xₜ,hᴬₜ) − L_MSE(xₜ,hᴮₜ) | Fₜ₋₁] = (vₜ − hᴬₜ)² − (vₜ − hᴮₜ)²입니다. 같은 대리변수 조건에서 기대 QLIKE 차이는 log(hᴬₜ) + vₜ/hᴬₜ − log(hᴮₜ) − vₜ/hᴮₜ입니다. 대리변수 강건성이 제거하는 것은 기대 점수에서 대리변수 잡음이 더하는 부분입니다. 두 식의 모형 순위 비교는 손실함수가 오차에 서로 다른 비용을 부여하기 때문에 여전히 다릅니다.

기대 순위가 보존된다고 해서 매번 관측되는 표본에서도 잠재분산 기준 순위가 같다는 보장은 없습니다. 대리변수 잡음은 관측된 손실의 변동을 키우고 예측 비교의 검정력을 낮출 수 있습니다. 평가 기간이 짧으면 몇 개의 대리변수 값이 우연히 높거나 낮았다는 이유만으로 모형 순위가 달라질 수 있습니다. 조건부 불편성이 평균적으로 성립해도 표본 결과에는 이런 차이가 남습니다.

대리변수가 명시된 목표에 대해 조건부 편향을 가지면 보장도 사라집니다. 고빈도 실현분산은 호가 간격, 오래된 호가나 비동기 거래, 표본 빈도, 빠진 야간 수익률의 영향을 받을 수 있습니다. 장중 적분분산을 목표로 한 대리변수가 종가 간 조건부분산의 불편 추정치가 아닐 수도 있습니다. 실현변동성 계산 안내서는 측정 구성의 선택을, 2척도 실현변동성 안내서는 일부 고빈도 시장미시구조 잡음을 다루도록 설계된 추정량 하나를 설명합니다. Hansen과 Lunde(2006)는 시장미시구조 잡음이 실현분산 측정에 미치는 영향을 보였습니다.

여기서 “강건”은 범위가 좁은 표현입니다. 대리변수가 조건부 불편이면 기대 순위가 보존된다는 뜻입니다. 표본 점수가 이상치를 무시한다거나, 모든 실현변동성 측정치가 불편하다거나, 목표가 어긋나도 비교가 보호된다는 뜻이 아닙니다. 대리변수가 무엇을 측정하고 vₜ와 어떤 가정으로 연결되는지 밝혀야 합니다

점수를 정한 뒤 공통 예측 시점마다 짝을 이룬 손실 차이를 만듭니다. dₜ = L_A,ₜ − L_B,ₜ로 놓으면 평균이 양수일 때 B의 손실이 더 낮습니다. Diebold–Mariano 검정은 이 짝지은 손실 차이의 기대값이 0인지 시계열을 이용해 평가합니다. QLIKE와 MSE 가운데 무엇을 쓸지, 어떤 목표를 평가할지 결정하지는 않습니다. 더 넓은 추론 체계는 Diebold–Mariano 안내서에서 설명합니다.

다기간 예측 구간이 겹치거나 손실 차이에 다른 시계열 상관이 있으면 적절한 HAC 추정량처럼 의존성을 고려한 표준오차를 사용합니다. Newey와 West(1987)는 양의 준정부호 HAC 공분산 추정량을 제시했습니다. 예측 기간, 평가 시점, 손실 차이의 부호, 공분산 추정법, 필요하다면 커널과 대역폭을 보고하세요. 검정에서 낮은 p값이 나와도 편향되었거나 목표와 맞지 않는 대리변수 문제는 해결되지 않습니다

시간 순서를 지키는 표본 외 설계를 사용하고 각 모형이 실제로 만들었을 예측치를 예측 시점별로 저장합니다. 어느 모형이 이기는지 확인하기 전에 목표, 대리변수 구성, 예측 기간, 단위, 공통 표본, 손실함수를 정합니다. 추정창, 재추정 규칙, 결측 관측 처리, 평가 기간을 모형 조정에 반복해서 사용했는지도 기록합니다. MSE와 QLIKE를 모두 비교한 뒤 하나만 보고한다면 사전에 하나를 정한 검정처럼 제시하지 말고 선택 과정을 공개합니다.

각 모형의 평균 손실, 짝지은 손실 차이, 표본 크기, 대리변수 정의, 추론 방법을 보고하세요. QLIKE에는 hₜ > 0이 필요하므로 예측 하한을 쓴다면 평가 전에 정해야 합니다. 하한은 점수에 영향을 줄 수 있습니다. 타당한 대리변수와 표본추출 선택에 대한 민감도를 살피되 여러 선택을 시도하는 것도 결과 선택 문제를 만든다는 점을 밝혀야 합니다.

낮은 변동성 손실은 정한 점수와 대리변수 아래에서 예측 성능을 측정합니다. 설명변수가 변동성을 일으킨다는 인과관계, 수익률의 정규분포, 예측을 쓴 전략이 스프레드·수수료·슬리피지·금융비용·위험한도 이후에도 돈을 번다는 사실은 입증하지 않습니다. 예측력과 거래 성과는 별도의 주장으로 평가해야 합니다