Все руководства по опционам и фьючерсам
Что на самом деле сравнивает один коэффициент регрессии16 минут чтения

Коэффициенты и предпосылки регрессии OLS

Разберитесь в целевой функции наименьших квадратов, условной интерпретации коэффициента, остатках, экзогенности, мультиколлинеарности, гомоскедастичности и ответственном анализе финансовых регрессий

Подготовлено Mark · Первичные источники ниже

Короткий ответ

Обычные наименьшие квадраты выбирают коэффициенты, минимизирующие сумму квадратов различий между наблюдаемыми исходами и линейными подогнанными значениями. Коэффициент описывает среднее линейное различие исхода, связанное с разницей в одну единицу регрессора при фиксированных остальных включённых регрессорах. Чтобы превратить это описательное приближение в причинный эффект, нужны дополнительные предпосылки, например нулевое условное среднее ошибки; высокий R² или малые остатки их не устанавливают

OLS минимизирует квадраты остатков

В модели y=Xβ+u метод OLS выбирает β так, чтобы сумма квадратов различий между наблюдениями и подогнанными значениями Xβ была как можно меньше

Если столбцы матрицы дизайна имеют полный ранг, решение обычно записывают как β̂=(X′X)⁻¹X′y

Возведение в квадрат создаёт удобную целевую функцию и сильно штрафует большие промахи, поэтому ошибки данных и влиятельные выбросы могут получить существенное влияние

Коэффициент — условное линейное сравнение

Коэффициент βj — подогнанная разница в y при разнице в xj на одну единицу, когда остальные включённые переменные удерживаются на тех же значениях

Результат Фриша–Во–Ловелла даёт тот же коэффициент после отдельного удаления линейного вклада остальных контролей из y и xj с последующей регрессией двух остатков

Поэтому его смысл зависит от контролей, формы, единиц и выборки; это не просто корреляция двух исходных переменных

Линейность относится к параметрам

Линейная регрессия должна быть линейной по коэффициентам, но её регрессоры могут включать логарифмы, квадраты, сплайны, индикаторы и взаимодействия

При взаимодействии предельная связь одной переменной меняется со значением другой, поэтому основной коэффициент нельзя читать изолированно

Экстраполяция распространяет выбранную функциональную форму за пределы наблюдаемой поддержки и является гораздо более сильным утверждением, чем хорошая подгонка выборки

Разные предпосылки дают разные гарантии

Нулевое условное среднее означает, что пропущенные компоненты исхода не могут систематически предсказываться включёнными регрессорами; оно центрально для состоятельности и структурной интерпретации

Гомоскедастичность требует одинаковой условной дисперсии ошибки при разных значениях регрессоров; она относится прежде всего к классической формуле дисперсии и эффективности, а не к несмещённости коэффициента

Нормальные ошибки не нужны для расчёта OLS, хотя при классической модели нормальность может поддерживать точный маловыборочный вывод по t- и F-статистикам

Остаток — не невидимая генеральная ошибка

Остаток e=y−Xβ̂ — наблюдаемый разрыв от подогнанного значения, оценённого на той же выборке, а генеральное возмущение u остаётся ненаблюдаемым

При константе OLS строит остатки, ортогональные выборочным регрессорам, поэтому нулевая выборочная корреляция между ними не является независимым свидетельством экзогенности

Графики остатков могут показать нелинейность, меняющуюся дисперсию, кластеризацию, серийную зависимость и выбросы, но не могут подтвердить правильность модели

Финансовые данные испытывают учебные предпосылки

Для доходностей характерны кластеры волатильности и хвостовые события, а перекрывающиеся доходности за периоды удержания создают серийную корреляцию по построению

Корпоративные панели могут содержать устойчивость внутри каждой компании и общие шоки для компаний в одну дату, нарушая простую независимость наблюдений

Тренды уровней, смещение из-за выживших активов, одновременное открытие цен и ошибки измерения могут сделать значимый коэффициент более структурным на вид, чем он есть

Отчитывайтесь об оценке и неопределённости вместе

До интерпретации числа укажите оцениваемую величину, выборку, единицы, преобразования, контроли, фиксированные эффекты, правила пропусков и оцениватель ковариации

Сопоставляйте коэффициенты со стандартными ошибками или интервалами, переводите их в реалистичные изменения и проверяйте чувствительность к влиятельным наблюдениям и защищаемым спецификациям

Отдельно оценивайте идентификацию и стабильность во времени или вне выборки, не смешивая их с R², знаком и статистической значимостью

Частые вопросы

Что означает коэффициент регрессии OLS?

Это среднее подогнанное линейное различие исхода, связанное с одной единицей регрессора при фиксированных остальных включённых регрессорах

Может ли линейная регрессия описать изогнутую связь?

Да. Можно использовать логарифмы, степени, сплайны и взаимодействия, пока модель остаётся линейной по коэффициентам

Искажает ли мультиколлинеарность коэффициенты?

Несовершенная мультиколлинеарность сама по себе не создаёт смещение, но может увеличить стандартные ошибки и сделать коэффициенты очень чувствительными к выборке

Исправляют ли устойчивые стандартные ошибки нарушенные предпосылки OLS?

Нет. Они ослабляют отдельные предпосылки о ковариации, но не исправляют эндогенность, неверную функциональную форму или смещение отбора

Источники и дополнительное чтение

Связанные руководства