Luận văn Một số tiêu chuẩn lựa chọn mô hình

Lời cảm ơn iii

1 Kiến thức chuẩn bị 1

1.1 Lượng thông tin Fisher 1

1.2 Ưóc lượng hợp lý cực đại 2

1.3 Hồi quy tuyến tính 4

1.3.1 Giới thiệu mô hình hồi quy tuyến tính cổ điển 4

1.3.2 Phương pháp ước lượng bình phương cực tiểu 5

1.3.3 Tính chất ước lượng bằng phương pháp bình phương cực

tiểu 7

1.4 Hồi quy Poisson 7

1.5 Hồi quy logistic 8

2 Một số tiêu chuẩn lựa chọn mô hình 10

2.1 Tiêu chuẩn thông tin Akaike 10

2.1.1 Khoảng cách Kullback- Leibler 10

2.1.2 Ước lượng hợp lý cực đại và khoảng cách Kullback- Leibler 11

2.1.3 DỊnh nghĩa AIC 17

2.1.4 AIC và khoảng cách Kullback- Leibler 19

2.1.5 Tiêu chuẩn Takeuchi 24

2.1.6 AIC hiệu chình cho hồi quy tuyến tính 25

2.2 Tiêu chuẩn thông tin Bayesian(BIC) 28

2.2.1 Nguồn gốc của BIC 28

2.2.2 Dmh nghĩa BIC 30

2.2.3 Ai là người viết ’The Quiet Don’ ? 35

3 Áp dụng 38

3.1 Giới thiệu về phần mềm R 38

3.2 Áp dụng với bộ số liệu 38