Байесовско-дисперсионный компромисс и переобучение финансовых моделей

Для квадратичной потери и фиксированного входа x ожидаемая ошибка теста разлагается на квадрат смещения, дисперсию оценщика и необратимую условную шумовую компоненту

Смещение сравнивает среднее предсказанное значение по гипотетическим обучающим наборам с истинным условным средним

Дисперсия измеряет, насколько сильно предсказание оценки меняется между теми обучающими наборами; это не дисперсия рыночных доходностей

Слишком жёсткая модель может игнорировать нелинейные выигрыши, взаимодействия, временную изменчивость или важные факторы риска

Ошибки на обучении и тесте могут быть обе плохими, и добавление релевантной структуры или лучших признаков может сократить систематическую ошибку

Низкая дисперсия — это не успех, когда модель последовательно предсказывает неверную величину или использует целевую переменную, не согласованную с решением

Гибкая модель может подгонять выбросы, шум, артефакты микроструктуры и разовые режимные паттерны, которые не повторяются

Ошибка на обучении падает, а результаты резко меняются между ресэмплами, окнами, семенами или малыми изменениями спецификации

Регуляризация, пулинг, более простые признаки, увеличение эффективного объёма выборки и усреднение могут снизить дисперсию, но вносят или сохраняют смещение

Ширина поиска, конструирование признаков, правила останова, настройка гиперпараметров и итерации аналитика — всё это увеличивает эффективную гибкость

Современные модели не обязаны следовать простой кривой ошибок в форме «U», но наблюдения интерполяции или двойного спуска не устраняют риск валидации

Релевантная сложность — это весь адаптивный исследовательский процесс, включая отброшенные модели, которые никогда не появляются в финальном отчёте

Случайное разбиение по строкам может привести к утечке перекрывающихся меток, нормализации по будущим данным, изменений состава и близкой режимной информации

Используйте хронологические отборы, пошаговую оценку, эмбарго там, где метки перекрываются, и допущения о транзакционных издержках, зафиксированные до тестирования

Результаты должны быть устойчивыми по подпериодам, активам, правдоподобным издержкам, задержкам и возмущениям, а не просто положительными в одном бэктесте

Пробуя множество стратегий и публикуя только лучшую, вы улучшите её Шарп-коэффициент, t-статистику или максимальную просадку за счёт одного лишь отбора

Реальность-тест Уайта и связанные методы множественного тестирования адресуют поиск среди альтернатив на основании их собственных допущений

Нетронутый финальный отбор помогает только в том случае, если он остаётся нетронутым; многократное рассмотрение превращает его в ещё одну обучающую выборку

Ведите журнал каждой проверенной гипотезы, признака, универсума, окна, издержек и отказа, чтобы явное число испытаний не преуменьшалось

Разделяйте исследовательское открытие и подтверждение, предварительно регистрируйте решающие тесты, где практически возможно, и требуйте экономических механизмов и сценариев отказа

Публикуйте распределения результатов, доверительные интервалы, оборачиваемость, ёмкость, хвостовые потери и деградацию от исследования к живой торговле