OLS Regressi§2¤ Coefficients §1¤ §0¤s

W modelu y=Xβ+u OLS wybiera β tak, aby suma kwadratów różnic między obserwacjami a wartościami dopasowanymi Xβ była możliwie mała.

Gdy kolumny macierzy projektu mają pełny rząd, rozwiązanie zwykle zapisuje się jako β̂=(X′X)⁻¹X′y.

Podnoszenie do kwadratu tworzy podatny na obróbkę cel i mocno karze duże pomyłki, więc błędy danych i obserwacje odstające o dużej dźwigni mogą mieć znaczący wpływ.

Współczynnik βj jest dopasowaną różnicą w y dla różnicy jednej jednostki w xj, gdy pozostałe uwzględnione zmienne utrzymuje się na tych samych wartościach.

Wynik Frisha–Waugha–Lovella daje ten sam współczynnik po osobnym usunięciu liniowego wkładu pozostałych zmiennych kontrolnych z y i xj, a następnie regresji obu pozostałości.

Jego znaczenie zależy więc od zmiennych kontrolnych, postaci funkcjonalnej, jednostek i próby; nie jest po prostu korelacją między dwiema surowymi zmiennymi.

Regresja liniowa musi być liniowa względem współczynników, ale jej regresory mogą zawierać logarytmy, kwadraty, splajny, wskaźniki i interakcje.

Przy interakcji zależność krańcowa jednej zmiennej zmienia się wraz z wartością innej, więc współczynnika głównego nie można odczytywać w izolacji.

Ekstrapolacja rozszerza wybraną postać funkcjonalną poza zaobserwowane wsparcie i jest znacznie silniejszym twierdzeniem niż dobre dopasowanie próby.

Warunkowa średnia równa zero oznacza, że pominięte składniki wyniku nie są systematycznie przewidywalne z uwzględnionych regresorów; jest to kluczowe dla zgodności lub interpretacji strukturalnej.

Homoskedastyczność wymaga równej warunkowej wariancji błędu dla różnych wartości regresorów; dotyczy klasycznego wzoru wariancji i efektywności bardziej niż nieobciążoności współczynników.

Błędy normalne nie są potrzebne do obliczenia OLS, choć normalność może wspierać dokładne wnioskowanie t i F w małych próbach w ramach modelu klasycznego.

Reszta e=y−Xβ̂ jest zaobserwowaną różnicą od wartości dopasowanej oszacowanej na tej samej próbie, podczas gdy zaburzenie populacyjne u pozostaje nieobserwowane.

Przy wyrazie wolnym OLS konstruuje reszty ortogonalne względem regresorów próby, więc zerowa korelacja z próby nie jest niezależnym dowodem egzogeniczności.

Wykresy reszt mogą ujawnić nieliniowość, zmienność, skupienia, zależność szeregową i obserwacje odstające, ale nie mogą poświadczyć poprawności modelu.

Stopy zwrotu wykazują skupianie zmienności i zdarzenia ogonowe, a nakładające się stopy zwrotu z okresów utrzymywania tworzą z definicji korelację szeregową.

Panele przedsiębiorstw mogą zawierać trwałość w obrębie każdej firmy i wspólne szoki w tej samej dacie, naruszając prostą niezależność obserwacji.

Trendy w szeregach poziomów, przeżywalność, jednoczesne odkrywanie cen i błąd pomiaru mogą sprawić, że istotny współczynnik wygląda na bardziej strukturalny, niż jest w rzeczywistości.

Przed interpretacją liczby określ estymand, próbę, jednostki, przekształcenia, zmienne kontrolne, efekty stałe, zasady brakujących danych i estymator kowariancji.

Połącz współczynniki z błędami standardowymi lub przedziałami, przełóż je na realistyczne zmiany i przetestuj wrażliwość na obserwacje wpływowe oraz uzasadnione specyfikacje.

Oceniaj identyfikację i stabilność w czasie lub poza próbą osobno od R², znaku i istotności statystycznej.