Estimadores de realized kernel: medindo a volatilidade com ruído de microestrutura

Sem ruído, somar os retornos intradiários ao quadrado é uma forma natural de estimar a variação no intervalo observado. Mas preços de transação e cotações podem refletir bid–ask bounce, discretização dos preços, latência ou erros de registro. A diferença entre dois preços ruidosos leva os dois erros de observação para o retorno; retornos adjacentes compartilham um desses erros com sinais opostos. Por isso, as autocovariâncias seriais dos retornos contêm informação sobre o ruído de observação.

A variância realizada comum usa apenas o produto de retornos na defasagem zero: soma os retornos ao quadrado. Em frequências de amostragem muito altas, essa soma pode acumular ruído mais rápido do que captura novos movimentos do preço latente. Um realized kernel usa o termo de defasagem zero e acrescenta autocovariâncias ponderadas em defasagens positivas e negativas. Sob hipóteses adequadas e uma banda que cresce nas condições apropriadas, os termos de defasagem diferente de zero ajudam a compensar o principal efeito do ruído e preservam a variação do preço eficiente.

Barndorff-Nielsen, Hansen, Lunde e Shephard desenvolveram realized kernels para medir a variação ex post na presença de fricções de mercado em seu artigo original na Econometrica. O método é um cálculo cuidadoso de variância de longo prazo com pesos, não uma recomendação para usar todos os ticks sem conferir os dados. Para uma referência mais simples de alta frequência, consulte o guia de cálculo da volatilidade realizada. Este artigo se concentra na correção pelo kernel e nas escolhas envolvidas.

Seja \(X_t\) o log-preço eficiente latente e seja o log-preço registrado no instante \(t_i\) \[ Y_{t_i}=X_{t_i}+\epsilon_{t_i}, \] em que \(\epsilon_{t_i}\) representa o ruído de microestrutura de mercado. Um modelo-base comum trata o preço latente como um processo contínuo com taxa de variância local \(\sigma_t^2\). O objetivo em um intervalo fixo \([0,T]\) é \[ IV_T=\int_0^T \sigma_t^2\,dt. \]

A derivação mais simples supõe que o ruído tem média zero, é independente ao longo do tempo e do processo de preço eficiente e possui variância estável. Essas hipóteses tornam clara a origem da correção. Negócios e cotações reais podem fugir delas: o ruído pode ter dependência serial, variar ao longo do tempo, estar relacionado ao preço eficiente ou depender de como os horários de observação foram escolhidos.

Se o processo latente tiver saltos, a variação quadrática também inclui os saltos ao quadrado. Se isso deve fazer parte do objetivo depende do modelo e da pergunta de pesquisa. Uma derivação para preços contínuos tem como alvo a variância integrada; não descreva um realized kernel como se separasse variância contínua de saltos sem acrescentar uma construção robusta a saltos. O guia de variação quadrática explica a diferença entre variância integrada e variação total da trajetória.

Essa configuração estima a variação de um intervalo já encerrado. Ela não recupera o preço latente com exatidão, não prevê o intervalo seguinte nem informa o preço pelo qual uma operação teria sido executada. A convenção dos dados de alta frequência também precisa ser documentada: negócios, midpoint das cotações ou outra proxy de preço podem produzir séries de retornos e propriedades do ruído diferentes.

Para uma sequência de \(n\) retornos observados \(r_i=Y_{t_i}-Y_{t_{i-1}}\), defina a soma não normalizada de autocovariâncias na defasagem \(h\): \[ \Gamma_h=\sum_{i=h+1}^{n} r_i r_{i-h}, \qquad \Gamma_{-h}=\Gamma_h. \] Na defasagem zero, \(\Gamma_0=\sum_{i=1}^n r_i^2\), a variância realizada comum. Na defasagem um, os produtos combinam retornos adjacentes. Com ruído de preço aditivo e independente, os componentes de ruído em retornos vizinhos têm sinais opostos: um erro de observação positivo aumenta um retorno e reduz o seguinte. Isso frequentemente gera uma autocovariância negativa na defasagem um. De forma mais geral, padrões em várias defasagens podem revelar como o ruído afeta a sequência de retornos.

As somas por defasagem não são divididas pelo número de produtos. Isso importa porque o realized kernel as combina na mesma escala da soma da variância realizada. O estimador se relaciona a um estimador de variância de longo prazo robusto à heterocedasticidade e à autocorrelação, mas não é uma soma arbitrária de autocorrelações amostrais normalizadas. O tratamento das extremidades e a convenção exata da soma fazem parte da definição do estimador.

As autocovariâncias não identificam qual tick individual foi “ruído” e qual foi “sinal”; elas agregam produtos cruzados ao longo do intervalo. Uma \(\Gamma_1\) negativa é compatível com bid–ask bounce, mas por si só não prova um mecanismo específico. Se os retornos verdadeiros tiverem dependência serial ou o ruído tiver outra estrutura, a mesma autocovariância poderá refletir vários efeitos. A estimação depende do modelo declarado e dos pesos do kernel, não de um diagnóstico direto do mercado em cada defasagem.

Para uma defasagem máxima \(H\), uma convenção comum para amostras finitas define \[ \widehat{IV}_{RK}(H)=\Gamma_0+2\sum_{h=1}^{H} k\!\left(\frac{h}{H}\right)\Gamma_h. \] O fator 2 inclui os termos simétricos de defasagem negativa. \(k(x)\) é um peso de kernel em \(0\le x\le1\), com \(k(0)=1\) e pesos que diminuem suavemente até zero perto do limite da banda. Artigos e softwares podem usar convenções ligeiramente diferentes para extremidades e índices, como \(H+1\) no denominador. Para reproduzir um resultado, informe a convenção e use-a de modo consistente.

Uma escolha não negativa comum é o kernel de Parzen: \[ k(x)= \begin{cases} 1-6x^2+6x^3, & 0\le x\le \tfrac12,\\ 2(1-x)^3, & \tfrac12 < x\le1,\\ 0, & x>1. \end{cases} \] Ele dá peso maior às defasagens curtas e reduz gradualmente o peso das mais distantes. Esse taper suave é útil porque o ruído de alta frequência pode criar dependência entre retornos, enquanto as estimativas de defasagens distantes ficam cada vez mais variáveis. A construção não negativa de Parzen foi concebida para que a estimativa univariada de realized kernel permaneça não negativa na implementação especificada. Outros kernels podem não ter essa propriedade. Um kernel flat-top pode apresentar comportamento de viés favorável, mas gerar uma estimativa negativa em amostra finita.

A figura que acompanha este guia é uma analogia desse taper: as contribuições das defasagens próximas são enfatizadas e as mais distantes desaparecem aos poucos. Ela não mostra retornos medidos, pesos empíricos de uma amostra específica nem a saída de uma estimativa de volatilidade.

<!-- learn:illustration -->

A banda \(H\) é a maior defasagem incluída na soma. Se for pequena demais, o estimador poderá deixar sem correção parte importante da dependência serial causada pelo ruído de observação. Se for grande demais, incluirá produtos de defasagem ruidosos e poderá aumentar a variância amostral. Portanto, a banda é uma escolha de ajuste estatístico, não o número de observações a descartar nem um intervalo de tempo universal para qualquer ativo.

Na teoria assintótica do realized kernel de Parzen, a banda ótima cresce na ordem de \(n^{3/5}\). Uma expressão prática usada na literatura é \[ H^*=c^*\,\xi^{4/5}n^{3/5}, \qquad c^*_{\text{Parzen}}=3.5134, \] em que \(n\) é o número de retornos na grade fina e \(\xi\) resume o nível relativo de ruído e a quarticidade do preço latente. Uma expressão para essa escala é \[ \xi^2=\frac{\omega^2}{\sqrt{T\int_0^T\sigma_u^4\,du}}, \] com \(\omega^2\) como variância do ruído de observação. Na prática, essas grandezas são desconhecidas e precisam ser estimadas, muitas vezes com estimativas preliminares da variância do ruído e da quarticidade integrada. A fórmula explica por que o número ótimo de defasagens depende tanto do tamanho da amostra quanto da relação entre ruído e sinal; não é uma configuração universal fixa.

O desenho assintótico exige que a banda aumente, mas continue pequena em relação ao tamanho da amostra, geralmente expresso como \(H\to\infty\) e \(H/n\to0\). A regra \(n^{3/5}\) equilibra viés e variância predominantes sob o modelo e as condições do kernel no artigo de referência. Em uma sessão finita, uma estimativa plug-in pode ser instável se as estimativas preliminares de ruído ou quarticidade forem ruins. Informe o \(H\) escolhido, a convenção usada, as entradas preliminares e uma análise de sensibilidade a alternativas defensáveis.

Considere uma sequência hipotética intencionalmente pequena, em pontos-base: \[ (r_1,r_2,r_3,r_4)=(1,-1,1,-1)\ \mathrm{bp}. \] Ela serve apenas para conferir a aritmética. Não é dado de mercado, e quatro retornos são insuficientes para justificar uma escolha assintótica de banda. A soma na defasagem zero é \[ \Gamma_0=1^2+(-1)^2+1^2+(-1)^2=4\ \mathrm{bp}^2. \]

Todos os produtos na defasagem um são \(-1\), portanto \(\Gamma_1=-3\ \mathrm{bp}^2\). Na defasagem dois, os produtos são \(r_3r_1=1\) e \(r_4r_2=1\), então \(\Gamma_2=2\ \mathrm{bp}^2\).

Defina \(H=2\) apenas para ilustrar a fórmula. Para o kernel de Parzen, \(k(1/2)=1-6(1/4)+6(1/8)=1/4\), enquanto \(k(1)=0\). Assim, \[ \widehat{IV}_{RK}=4+2\left(\tfrac14\right)(-3)+2(0)(2) =2.5\ \mathrm{bp}^2. \]

A variância realizada comum é \(4\ \mathrm{bp}^2\); neste exemplo, o termo negativo ponderado da defasagem um reduz a estimativa do kernel. A soma da defasagem dois não contribui porque o peso de Parzen no limite é zero. O resultado não é negativo, mas essa conta, por si só, não prova que ele corresponda à variação latente do preço eficiente. A trajetória latente não foi observada, nenhum intervalo de incerteza foi calculado e não decorre daí uma previsão nem uma conclusão de negociação. Sua raiz quadrada, cerca de \(1.58\) bp, é apenas a escala de desvio-padrão para este intervalo hipotético.

O exemplo também mostra por que a banda e a regra de indexação precisam acompanhar a estimativa. Outro \(H\), uma convenção diferente para os extremos ou outros retornos mudam os pesos ou produtos incluídos. O resultado numérico é reproduzível porque cada retorno, soma por defasagem, peso e unidade está apresentado.

Somas não normalizadas por defasagem podem dar influência excessiva a observações nas extremidades, sobretudo quando a primeira ou a última cotação registrada tem um grande erro de ruído. Trabalhos práticos sobre realized kernels discutem a média local, muitas vezes chamada jittering, para reduzir efeitos de borda. Uma implementação comum substitui um preço extremo pela média local de observações próximas antes de calcular os retornos. O tamanho exato da janela e a escolha de calcular a média em uma ou nas duas extremidades são decisões de implementação que precisam ser descritas.

A limpeza dos dados pode importar tanto quanto a fórmula. Uma única transação errada, cotação defasada, mercado cruzado, timestamp duplicado ou erro na escala de preços gera retornos e produtos de defasagem que entram em várias somas. Documente o campo de preço, o alinhamento dos timestamps, os limites da sessão, o tratamento de duplicatas, os filtros e o tratamento de leilões ou fechamentos do mercado. As regras de limpeza devem ser definidas sem depender de tornarem a estimativa final mais plausível.

O estudo prático de realized kernels de 2009 discute dados de transações e cotações, efeitos de borda, tendências locais e o kernel de Parzen não negativo. A lição prática é que “robusto a ruído” não significa “independente dos dados”. Um componente de preço que se move gradualmente em uma janela curta, fricções de mercado variáveis ou a construção das cotações podem desafiar a interpretação de base. O jittering pode reduzir um problema de extremidade, mas não corrige uma série desalinhada nem uma observação incorreta no meio da amostra.

A teoria clássica usa hipóteses sobre o processo de preço latente, a amostragem, o ruído, a regularidade do kernel e a banda. Algumas construções de realized kernel são robustas a formas mais amplas de ruído serialmente dependente e a horários de observação endógenos do que o exemplo mais simples de ruído independente. Essa robustez depende do teorema aplicável: o kernel e a banda precisam satisfazer as condições correspondentes. O estudo de Aït-Sahalia, Mykland e Zhang sobre ruído de microestrutura dependente ajuda a entender por que essa dependência precisa ser tratada explicitamente, em vez de supor que qualquer extensão decorra automaticamente da fórmula-base.

A escolha do kernel importa. Parzen é comum em estimativas univariadas não negativas. Pesos flat-top podem buscar propriedades diferentes de viés e produzir estimativas negativas em amostras finitas. Não substitua um kernel HAC qualquer por analogia: a literatura de realized kernels explica que algumas escolhas aparentemente familiares, incluindo Bartlett na construção analisada, não oferecem o mesmo resultado de consistência. Se a estimativa for negativa, informe o kernel e a regra para amostra finita; não a trunque silenciosamente nem a chame de variância física negativa.

O resultado também herda os limites da proxy de preço e do objetivo. Saltos podem fazer parte da variação quadrática; valores extremos podem dominar os produtos; observações irregulares ou assíncronas podem mudar o que está sendo estimado; volatilidade e ruído podem variar durante o intervalo. Um realized kernel univariado não resolve por si só a amostragem multivariada assíncrona, não remove saltos e não distingue bid–ask bounce de todas as outras fontes de dependência entre retornos. Um estimador é robusto dentro de um modelo declarado, não a qualquer defeito de dados possível.

Um relatório reproduzível identifica a série de preços e o desenho de amostragem, a janela observada, as unidades dos retornos, a função do kernel, a defasagem máxima \(H\), a convenção das extremidades, a regra de média local e a limpeza dos dados. Se usar uma banda plug-in, informe as entradas estimadas de ruído e quarticidade ou detalhes suficientes para reproduzi-las. Deixe claro se o resultado estima variância integrada, variação quadrática incluindo saltos ou uma medida de volatilidade transformada.

A estimativa descreve a variação no intervalo amostrado. Não é uma estimativa de volatilidade futura, a menos que um modelo de previsão separado relacione as medidas históricas a um horizonte futuro e seja avaliado fora da amostra. Também não é cotação de spread nem estimativa de custo de execução: o guia de spread bid–ask de Roll usa autocovariância dos retornos para estimar outra grandeza. O guia de volatilidade realizada em duas escalas apresenta outra abordagem robusta ao ruído com estrutura de correção diferente.

A decisão central não é apenas se vale usar um realized kernel. É avaliar se os dados de preço, o esquema de amostragem, o objetivo, o kernel e a banda se ajustam à pergunta de pesquisa a ponto de sustentar a interpretação apresentada. Uma tabela de sensibilidade e limites explícitos do modelo tornam essa avaliação mais fácil de auditar. Mesmo uma estimativa cuidadosa continua sendo uma medida histórica com incerteza amostral; não prova uma regra de negociação lucrativa nem garante que os efeitos de microestrutura desapareceram.