Chương 3: Hồi quy bội (P2)
Hồi quy tuyến tính không biến.
Mô hình hồi quy tuyến tính.
Ma trận
Chương 3
HỒI QUY TUYẾN TÍNH
BỘI (tiếp theo)
I. HỐI QUY TUYẾN TÍNH K BIẾN
1. Hàm hồi quy tổng thể (PRF)
Yi = β1 + β 2 X 2i + β3 X 3i + ... + β k X ki + U i
Trong đó
•Y là biến phụ thuộc
•X2,X3,…,Xk là các biến độc lập
•Ui là các sai số ngẫu nhiên
•β1 :Hệ số tự do
β 2, β 3,…, β k là các hệ số hồi quy riêng
I. HỐI QUY TUYẾN TÍNH K BIẾN
1. Hàm hồi quy tổng thể (PRF)
Quan sát thứ 1 :
Y1 = β1 + β 2 X 21 + β3 X 31 + ... + β k X k1 + U1
Quan sát thứ 2 :
Y2 = β1 + β 2 X 22 + β 3 X 32 + ... + β k X k 2 + U 2
……………………………………………………………………
Quan sát thứ n :
Yn = β1 + β 2 X 2 n + β3 X 3n + ... + β k X kn + U n
I. HỐI QUY TUYẾN TÍNH K BIẾN
1. Hàm hồi quy tổng thể (PRF)
Ký hiệu
Y1 β1 U1
Y2 β2 U2
Y = β= U =
... ... ...
Yn βk U n
I. HỐI QUY TUYẾN TÍNH K BIẾN
1. Hàm hồi quy tổng thể (PRF)
Và
1 X 21 X 31 ... X k 1
1 X 22 X 32 ... X k 2
X=
... ... ... ... ...
1 X 2n X 3n ... X kn
I. HỐI QUY TUYẾN TÍNH K BIẾN
1. Hàm hồi quy tổng thể (PRF)
Khi đó , hệ thống các quan sát có thể được
viết lại dưới dạng :
Y = X .β + U
I. HỐI QUY TUYẾN TÍNH K BIẾN
1. Các giả thiết của mô hình hồi quy k
biến
Giả thiết 1 : Các biến độc lập X1, X2,…,Xk đã cho
và không ngẫu nhiên
Giả thiết 2 : Các sai số ngẫu nhiên Ui có giá trị
trung bình bằng 0 và có phương sai không thay đổi
Giả thiết 3: Không có sự tương quan giữa các sai
số Ui
I. HỐI QUY TUYẾN TÍNH K BIẾN
1. Các giả thiết của mô hình hồi quy k
biến
Giả thiết 4 : Không có hiện tượng cộng tuyến giữa
các biến độc lập X2, X3,…,Xk
Giả thiết 5 : Không có tương quan giữa các biến
độc lập X2,X3,…,Xk với các sai số ngẫu nhiên Ui
I. HỐI QUY TUYẾN TÍNH K BIẾN
1. Ước lượng các tham số
Hàm hồi quy mẫu :
SRF: Yi = βˆ1 + βˆ2 X 2i + βˆ3 X 3i + ... + βˆk X ki + ei
hoặc: Y = βˆ + βˆ X + βˆ X + ... + βˆ X
ˆ
i 1 2 2i 3 3i k ki
Hay : (Viết dưới dạng ma trận )
ˆ +e
Y = Xβ
I. HỐI QUY TUYẾN TÍNH K BIẾN
1. Ước lượng các tham số
Với
ˆ
β1 e1
ˆ
β2 e2
ˆ =
β e=
... ...
β
ˆ en
k
I. HỐI QUY TUYẾN TÍNH K BIẾN
SRF: Yi = βˆ1 + βˆ2 X 2i + βˆ3 X 3i + ... + βˆk X ki + ei
hoặc: Y = βˆ + βˆ X + βˆ X + ... + βˆ X
ˆ
i 1 2 2i 3 3i k ki
Khi đó
ˆ
ei = (Yi − Yi )
ˆ ˆ ˆ ˆ
= Yi − β1 − β 2 X 2i − β3 X 3i − ... − β k X ki
I. HỐI QUY TUYẾN TÍNH K BIẾN
Theo nguyên lý của phương pháp OLS thì các tham số
ˆ ˆ ˆ ˆ
β , β , β ,..., β được chọn sao cho
1 2 3 k
( )
2
∑e = ∑ Yi −Yi
2
i
ˆ
( )
2
= ∑ Yi − β1 − β2 X 2i − β3 X 3i − ... − βk X ki
ˆ ˆ ˆ ˆ
→ min
I. HỐI QUY TUYẾN TÍNH K BIẾN
Ta ký hiệu X ,Y , β
T ˆ T , eT
T là các ma trận
ˆ
chuyển vị của X , Y , β , e
Tức là
Y = ( Y1 , Y2 ,..., Yn )
T
e = ( e1 , e2 ,..., en )
T
β 1 (
ˆ T = β , β ,..., β
ˆ ˆ
2
ˆ
k )
I. HỐI QUY TUYẾN TÍNH K BIẾN
1 1 1 ... 1
X 21 X 22 X 23 ... X 2 n
X=
... ... ... ... ...
X k1 Xk2 X k3 ... X kn
I. HỐI QUY TUYẾN TÍNH K BIẾN
Khi đó :
βˆ = (X X ) X Y
T −1 T
I. HỐI QUY TUYẾN TÍNH K BIẾN
Trong đó (XTX) là ma trận có dạng
n
∑X 2i ∑X 3i ... ∑X ki
∑ X 2i ∑X ∑X X ∑X X
2
... 2 i ki
X= 2i 2i 3i
... ... ... ... ...
∑ X
ki ∑X ki X 2i ∑X ki X 3i ... ∑ X ki
2
I. HỐI QUY TUYẾN TÍNH K BIẾN
1. Ví dụ minh hoạ
Bảng dưới đây cho các số liệu về lượng hàng
bán được của một loại hàng hóa(Y), thu nhập
của người tiêu dùng (X2) và giá bán của loại
hàng này (X3)
Tìm hàm hồi quy tuyến tính
ˆ ˆ ˆ ˆ
Yi = β1 + β2 X 2i + β3 X 3i
I. HỐI QUY TUYẾN TÍNH K BIẾN
Yi (tấn/tháng) X2 (triệu đồng/năm) X3(ngàn đồng/kg)
20 8 2
18 7 3
19 8 4
18 8 4
17 6 5
17 6 5
16 5 6
15 5 7
13 4 8
12 3 8
I. HỐI QUY TUYẾN TÍNH K BIẾN
Giải Từ số liệu trên, ta tính được các tổng như sau :
∑ Y = 165 ∑ X = 388
i
2
2i
∑ X = 60 ∑ X X = 282
2i 2i 3i
∑ X = 52 ∑ X = 308
3i
2
3i
∑ Y = 2781 i Y = 16,5
2
∑ Y X = 813
i X =6 3i 2
∑ Y X = 1029
i X = 5, 2
2i 3
I. HỐI QUY TUYẾN TÍNH K BIẾN
n
∑X ∑X
2i 3i 10 60 52
X X = ∑ X 2i
T
∑X ∑X X
2
2i 2 i 3i = 60 388 282
∑ X 52 282 308
3i ∑X X ∑X
3i 2i
2
3i
26.165 -2.497 -2.131
−1
( X X ) = -2.497 0.246 0.196
T
-2.131 0.196 0.183
