Quản trị kinh doanh - Chương 3: Hồi quy đa biến

Nội dung text: Quản trị kinh doanh - Chương 3: Hồi quy đa biến

1. CHƯƠNG 3 HỒI QUY ĐA BIẾN
2. HỒI QUY ĐA BIẾN 1. Biết được phương pháp ước lượng bình phương nhỏ nhất để ước lượng hàm hồi quy đa biến MỤC tổng thể dựa trên số liệu mẫu TIÊU 2. Hiểu các cách kiểm định những giả thiết 2
3. NỘI DUNG 1 Mô hình hồi quy 3 biến 2 Mô hình hồi quy k biến 3 Dự báo 5 3
4. 3.1 Mô hình hồi quy 3 biến ❑Mô hình hồi quy tổng thể PRF E(Y / X 2 , X 3 ) = 1 + 2 X 2 + 3 X 3 Ý nghĩa: PRF cho biết trung bình có điều kiện của Y với điều kiện đã biết các giá trị cố định của biến X2 và X3. ❖Y: biến phụ thuộc ❖X2 và X3: biến độc lập ❖β1 : hệ số tự do ❖β2 , β3 : hệ số hồi quy riêng 4
5. 3.1 Mô hình hồi quy 3 biến Ý nghĩa hệ số hồi quy riêng: cho biết ảnh hưởng của từng biến độc lập lên giá trị trung bình của biến phụ thuộc khi các biến còn lại được giữ không đổi. ❑Mô hình hồi quy tổng thể ngẫu nhiên: Yi = 1 + 2 X 2i + 3 X 3i +ui ui: sai số ngẫu nhiên của tổng thể 5
6. Các giả thiết của mô hình 1. Giá trị trung bình của Ui bằng 0 E(Ui /X2i, X3i)=0 2. Phương sai của các Ui là không đổi 2 Var(Ui)=σ 3. Không có hiện tượng tự tương quan giữa các Ui Cov(Ui ,Uj )=0; i≠j 4. Không có hiện tượng cộng tuyến giữa X2 và X3 2 5.Ui có phân phối chuẩn: Ui ̴ N(0, σ ) 6
7. 3.1.1 Ước lượng các tham số Hàm hồi quy mẫu: ˆ ˆ ˆ ˆ Yi = 1 + 2 X 2i + 3 X3i + ei sai số của mẫu ứng với quan sát thứ i ˆ ei = Yi −Yi Sử dụng phương pháp bình phương nhỏ nhất để ước lượng các tham số ˆ ˆ ˆ 1,2 ,3 7
8. 3.1.1 Ước lượng các tham số 2 ˆ ˆ ˆ 2 Q = ei = (Yi − 1 − 2 X 2i − 3 X 3i ) → min dQ = −2 (Y − ˆ − ˆ X − ˆ X ) = 0 ˆ  i 1 2 2i 3 3i d1 dQ = 2 (Y − ˆ − ˆ X − ˆ X )(−X ) = 0 ˆ  i 1 2 2i 3 3i 2i d2 dQ = 2 (Y − ˆ − ˆ X − ˆ X )(−X ) = 0 ˆ  i 1 2 2i 3 3i 3i d3 8
9. 3.1.1 Ước lượng các tham số y x x2 − y x x x ˆ  i 2i  3i  i 3i  2i 3i 2 = 2 2 2  x2i  x3i − ( x2i x3i ) y x x2 − y x x x ˆ  i 3i  2i  i 2i  2i 3i 3 = 2 2 2  x2i  x3i − ( x2i x3i ) ˆ ˆ ˆ 1 =Y − 2 X 2i − 3 X3i xi = X i − X yi = Yi −Y 9
10. 3.1.2 Phương sai của các ước lượng X 2 x2 + X 2 x2 − 2X X x x ˆ 1 2  3i 3  2i 2 3  2i 3i 2 Var(1) = ( + 2 2 2 ) n  x2i  x3i − ( x2i x3i ) x2 ˆ  3i 2 Var(2 ) = 2 2 2   x2i  x3i − ( x2i x3i ) x2 ˆ  2i 2 Var(3 ) = 2 2 2   x2i  x3i − ( x2i x3i ) 2 σ là phương sai của ui chưa biết nên dùng ước lượng không chệch: e2 (1− R2 ) y2 ˆ 2 =  i =  i n − 3 n − 3 10
11. Hệ số xác định 2 Hệ số xác định R n 2 ei 2 ESS RSS i=1 R = =1− =1− n TSS TSS 2  yi i=1 ˆ y x + ˆ y x Mô hình hồi quy 3 biến 2 2  i 2i 3  i 3i R = 2  yi 2 Hệ số xác định hiệu chỉnh ei  (n − k) Với k là tham số của mô hình, R 2 = y 2 kể cả hệ số tự do i  (n −1) 11
12. Hệ số xác định hiệu chỉnh n −1 R 2 =1− (1− R2 ) n − k Dùng R 2 để xét việc đưa thêm 1 biến vào mô hình. Biến mới đưa vào mô hình phải thỏa 2 điều kiện: - Làm tăng - Hệ số hồi quy biến mới thêm vào mô hình khác 0 có ý nghĩa 12
13. 3.1.4 Khoảng tin cậy Với mức ý nghĩa hay độ tin cậy 1- ˆ ˆ i (i −i ;i +i ) Với ˆ i = SE(i )t(n−3, / 2) 13
14. 3.1.5 Kiểm định giả thiết * 1. Kiểm định giả thiết H0: i = i * B1. Tính ˆ −  t = i i i ˆ SE(i ) B2. Nguyên tắc quyết định ✓Nếu |ti | > t(n-3, /2): bác bỏ H0 ✓Nếu |ti | ≤ t(n-3, /2) : chấp nhận H0 14
15. 3.1.5 Kiểm định giả thiết 2. Kiểm định giả thiết đồng thời bằng không: H0: 2 = 3 = 0; (H1: ít nhất 1 tham số khác 0) B1. Tính R2 (n −3) F = (1− R2 )2 B2. Nguyên tắc quyết định ✓F > F (2, n-3): Bác bỏ H0: Mô hình phù hợp ✓F ≤ F (2, n-3): Chấp nhận H0: Mô hình không phù hợp 15
16. 3.2 Mô hình hồi quy k biến Mô hình hồi quy tổng thể E(Y / X 2 , X k ) = 1 + 2 X 2i + + k X ki Mô hình hồi quy mẫu ngẫu nhiên: ˆ ˆ ˆ ˆ Yi = 1 + 2 X 2i + + k X ki + ei sai số của mẫu ứng với quan sát thứ i ˆ ˆ ˆ ˆ ˆ ei =Yi −Yi =Yi − 1 − 2 X 2i − 3 X3i − − k X ki 16
17. 3.2.1 Ước lượng các tham số n n 2 2 ˆ ˆ ˆ ˆ ei = (Yi − 1 − 2 X 2i − 3 X 3i − − k X ki ) → min i=1 i=1 n  2  ei n i =1 ˆ ˆ ˆ ˆ = −2(Yi − 1 − 2 X 2i − 3 X3i − −  k X ki )= 0 1 i =1 n  2  ei n i =1 ˆ ˆ ˆ ˆ = −2(Yi − 1 − 2 X 2i − 3 X3i − −  k X k,i )X 2i = 0  2 i =1 n  2  ei n i =1 ˆ ˆ ˆ ˆ = −2(Yi − 1 − 2 X 2i − 3 X3i − −  k X ki )X ki = 0  k i =1 17
18. 3.2.2 Khoảng tin cậy Với mức ý nghĩa hay độ tin cậy 1- ˆ ˆ i (i −i ;i +i ) Với ˆ i = SE(i ).t(n−k, / 2) 18
19. Hệ số xác định ˆ ˆ ˆ 2 2  yi x2i + 3  yi x3i + + k  yi xki R = 2  yi Hệ số xác định hiệu chỉnh n −1 R 2 =1− (1− R2 ) n − k Với k là tham số của mô hình, kể cả hệ số tự do 19
20. Hệ số xác định hiệu chỉnh n −1 R 2 =1− (1− R2 ) n − k Dùng R 2 để xem xét việc đưa thêm biến vào mô hình. Biến mới đưa vào mô hình phải thỏa 2 điều kiện: - Làm tăng - Biến mới có ý nghĩa thống kê trong mô hình mới 20
21. 3.2.3 Kiểm định các giả thiết hồi quy 1. Kiểm định giả thiết về hệ số hồi quy * Kiểm định giả thiết H0: i = i B1.Tính ˆ −  * t = i i i ˆ SE(i ) B2. Nguyên tắc quyết định ✓Nếu |ti | > t(n-k, /2) : bác bỏ H0 ✓Nếu |ti | ≤ t(n-k, /2) : chấp nhận H0 21
22. 3.2.4 Kiểm định các giả thiết hồi quy 2. Kiểm định sự phù hợp của mô hình: kiểm định giả thiết đồng thời bằng không: H0: 2 = 3 = = k = 0; (H1: ít nhất 1 trong k tham số khác 0) R2 (n − k) F = B1. Tính (1− R2 )(k −1) B2. Nguyên tắc quyết định: ✓Nếu F > F (k-1, n-k): Bác bỏ H0: Mô hình phù hợp ✓Nếu F ≤ F (k-1, n-k): Chấp nhận H0: Mô hình không phù hợp 22
23. 3.3 DỰ BÁO Mô hình hồi quy ˆ ˆ ˆ ˆ Yi = 1 + 2 X 2 + + k X k 1 0 0 X 2 Cho trước giá trị X = 0 X k Dự báo giá trị trung bình và giá trị cá biệt của Y với mức ý nghĩa hay độ tin cậy 1 - . 23
24. 3.3 DỰ BÁO * Ước lượng điểm ˆ ˆ ˆ 0 ˆ 0 Y0 = 1 + 2 X 2 + + k X k * Dự báo giá trị trung bình của Y ˆ ˆ E(Y / X0 ) (Y0 −0;Y 0+0 )  = SE(Yˆ )t Với: 0 0 (n−k, / 2) ˆ ˆ SE(Y0 ) = Var(Y0 ) ˆ 2 0T T −1 0 Var(Y0 ) =ˆ X (X .X) .X 24
25. 3.3 DỰ BÁO * Dự báo giá trị cá biệt của Y ˆ ' ˆ ' Y0 (Y0 −0;Y 0+0 ) Với: ' ˆ 0 = SE(Y0 −Y0 )t(n−k, / 2) ˆ ˆ SE(Y0 −Y0 ) = Var(Y0 −Y0 ) ˆ ˆ 2 Var(Y0 −Y0 ) =Var(Y0 ) +ˆ 25