Hệ số và giả định của hồi quy OLS

Trong mô hình y=Xβ+u, OLS chọn β để tổng bình phương chênh lệch giữa các quan sát và giá trị khớp Xβ nhỏ nhất có thể

Khi các cột của ma trận thiết kế có hạng đầy đủ, nghiệm thường được viết là β̂=(X′X)⁻¹X′y

Bình phương tạo ra một mục tiêu dễ xử lý và phạt nặng các sai lệch lớn, vì vậy lỗi dữ liệu và các điểm ngoại lệ có ảnh hưởng có thể có đòn bẩy đáng kể

Hệ số βj là chênh lệch khớp trong y khi xj chênh lệch một đơn vị và các biến khác được đưa vào được giữ ở cùng giá trị

Kết quả Frisch–Waugh–Lovell cho cùng một hệ số sau khi lần lượt loại bỏ đóng góp tuyến tính của các biến kiểm soát khác khỏi y và xj, rồi hồi quy hai phần còn lại

Do đó, ý nghĩa của nó phụ thuộc vào biến kiểm soát, dạng hàm, đơn vị và mẫu; nó không đơn giản là tương quan giữa hai biến thô

Một hồi quy tuyến tính phải tuyến tính theo các hệ số, nhưng các biến hồi quy có thể bao gồm logarit, bình phương, spline, biến chỉ báo và tương tác

Với một tương tác, mối quan hệ biên của một biến thay đổi theo giá trị của biến khác, nên không thể đọc một hệ số chính biệt lập

Ngoại suy mở rộng dạng hàm đã chọn ra ngoài vùng hỗ trợ quan sát và là một mệnh đề mạnh hơn nhiều so với việc khớp mẫu tốt

Kỳ vọng có điều kiện bằng không nói rằng các thành phần bị bỏ sót của kết quả không thể được dự đoán có hệ thống từ các biến hồi quy được đưa vào và là trung tâm của tính nhất quán hoặc diễn giải cấu trúc

Phương sai đồng nhất yêu cầu phương sai sai số có điều kiện bằng nhau trên các giá trị biến hồi quy; nó liên quan đến công thức phương sai cổ điển và tính hiệu quả nhiều hơn là tính không chệch của hệ số

Sai số chuẩn không cần thiết cho việc tính OLS, dù tính chuẩn có thể hỗ trợ suy luận t và F chính xác trong mẫu nhỏ theo mô hình cổ điển

Phần dư e=y−Xβ̂ là khoảng cách quan sát được từ giá trị khớp được ước tính trên cùng mẫu, trong khi nhiễu tổng thể u vẫn không quan sát được

Với một hệ số chặn, OLS tạo ra các phần dư trực giao với các biến hồi quy trong mẫu, nên tương quan mẫu bằng không giữa chúng không phải bằng chứng độc lập về tính ngoại sinh

Biểu đồ phần dư có thể cho thấy tính phi tuyến, phương sai thay đổi, sự gom cụm, phụ thuộc chuỗi thời gian và điểm ngoại lệ, nhưng không thể chứng nhận mô hình đúng

Lợi suất thể hiện sự gom cụm biến động và các sự kiện đuôi, trong khi lợi suất nắm giữ chồng lấn tạo ra tương quan chuỗi theo cấu trúc

Dữ liệu bảng doanh nghiệp có thể chứa tính dai dẳng trong từng công ty và các cú sốc chung giữa các công ty cùng ngày, vi phạm tính độc lập quan sát đơn giản

Xu hướng trong chuỗi mức, thiên lệch sống sót, việc phát hiện giá đồng thời và sai số đo lường có thể khiến một hệ số có ý nghĩa trông mang tính cấu trúc hơn thực tế

Nêu rõ đại lượng ước tính, mẫu, đơn vị, biến đổi, biến kiểm soát, hiệu ứng cố định, quy tắc dữ liệu thiếu và ước lượng hiệp phương sai trước khi diễn giải con số

Ghép hệ số với sai số chuẩn hoặc khoảng, chuyển chúng thành các thay đổi thực tế và kiểm tra độ nhạy với các quan sát có ảnh hưởng cùng các đặc tả hợp lý

Đánh giá việc nhận dạng và độ ổn định theo thời gian hoặc ngoài mẫu riêng biệt với R², dấu và ý nghĩa thống kê