Bỏ qua, tới nội dung
Quay lại

Phương sai sai số thay đổi: kiểm định và khắc phục

Phương sai sai số thay đổi (heteroskedasticity) là khi độ phân tán của phần dư hồi quy không đều nhau giữa các quan sát. Nó không làm hệ số hồi quy bị chệch, nhưng làm sai số chuẩn, giá trị t và p-value sai, nên bạn có thể kết luận "có ý nghĩa" trong khi thật ra không. Kiểm định bằng Breusch-Pagan hoặc White (p < 0,05 là có hiện tượng), và cách khắc phục đơn giản nhất cho khoá luận là báo cáo sai số chuẩn vững HC3 (Long & Ervin, 2000).

Bài này dùng một bộ dữ liệu thật, công khai, để bạn thấy hiện tượng này có thể đổi kết luận của hai giả thuyết. Mọi con số đều tự chạy lại được. Nếu bạn chưa quen đọc bảng hồi quy, đọc trước bài hồi quy tuyến tính bội trong SPSS.

Phương sai sai số thay đổi là gì?

Hồi quy OLS giả định phần dư có cùng phương sai ở mọi mức của biến độc lập (phương sai đồng nhất, homoskedasticity). Khi giả định này bị vi phạm, ví dụ người có thu nhập cao chi tiêu dao động mạnh hơn người thu nhập thấp, phần dư "loe" ra như hình phễu trên biểu đồ phần dư theo giá trị dự báo.

Hệ quả cụ thể (White, 1980; Long & Ervin, 2000):

  • Hệ số B vẫn không chệch và nhất quán. Bảng Coefficients vẫn cho đúng chiều và độ lớn tác động.
  • Sai số chuẩn thông thường bị tính sai, có thể quá nhỏ hoặc quá lớn. Kéo theo t, p-value và khoảng tin cậy sai.
  • Kiểm định F của toàn mô hình cũng không còn đáng tin.

Vì vậy câu hỏi không phải "hệ số có sai không" mà là "giả thuyết nào của tôi được chấp nhận nhờ một sai số chuẩn bị tính thấp".

Dấu hiệu nhận biết trên biểu đồ

Trong SPSS, vào Analyze → Regression → Linear → Plots, đặt *ZRESID vào trục Y và *ZPRED vào trục X. Đám điểm đều như một dải ngang là tốt. Đám điểm hẹp ở một đầu và rộng ở đầu kia (hình phễu) là dấu hiệu phương sai thay đổi. Biểu đồ chỉ gợi ý; kết luận dựa vào kiểm định bên dưới.

Kiểm định Breusch-Pagan và White khác nhau thế nào?

Cả hai đều hồi quy bình phương phần dư lên các biến giải thích. Giả thuyết H0: phương sai đồng nhất. p < 0,05 thì bác bỏ H0, tức có phương sai sai số thay đổi.

Kiểm địnhHồi quy phụThống kêGhi chú
Breusch-Pagan (1979)e² theo các biến độc lậpLM = ESS/2, χ² với k bậc tự doNhạy với phần dư không chuẩn
Breusch-Pagan bản Koenker (1981)e² theo các biến độc lậpLM = n·R², χ² với k bậc tự doVững khi phần dư không chuẩn; mặc định của estat hettest, iid trong Stata và bptest trong R
White (1980)e² theo biến độc lập, bình phương và tích chéo của chúngLM = n·R², χ² với số biến của hồi quy phụBắt cả dạng phi tuyến; tốn nhiều bậc tự do

SPSS từ bản 25 có sẵn cả ba trong Analyze → General Linear Model → Univariate → Options (mục Heteroskedasticity Tests). Stata dùng estat hettest và estat imtest, white; EViews có ở View → Residual Diagnostics → Heteroskedasticity Tests.

Ví dụ thật: dữ liệu mobi, 250 khách hàng

Bộ dữ liệu mobi (gói R seminr) gồm 250 khách hàng điện thoại di động trả lời 24 câu hỏi thang 1–10 theo mô hình chỉ số hài lòng châu Âu ECSI (Tenenhaus et al., 2005). Bạn tải được tại trang kiểm chứng (file mobi.csv). Chúng tôi lấy trung bình các câu của từng khái niệm: hình ảnh thương hiệu (IMAG, 5 câu), kỳ vọng (CUEX, 3), giá trị cảm nhận (PERV, 2), sự hài lòng (CUSA, 3), lòng trung thành (CUSL, 3).

Mô hình: CUSL = b0 + b1·IMAG + b2·CUSA + b3·PERV + b4·CUEX. R² = 0,362, F(4, 245) = 34,68, p < 0,001. VIF từ 1,43 đến 2,28 nên không có đa cộng tuyến đáng lo (xem bài hệ số VIF).

Bước 1: kiểm định

Kiểm địnhThống kêdfp
Breusch-Pagan (bản gốc)23,194< 0,001
Breusch-Pagan (Koenker)17,5040,002
White55,6714< 0,001

Cả ba bác bỏ H0. Mô hình có phương sai sai số thay đổi.

Bước 2: so sánh sai số chuẩn thường và sai số chuẩn vững HC3

BiếnBSE thườngp thườngSE HC3p HC3
IMAG0,2250,1050,0330,1360,099
CUSA0,4230,103< 0,0010,1460,004
PERV0,1960,0620,0020,1040,061
CUEX0,0460,0860,5920,1000,647

Hệ số B giữ nguyên, chỉ sai số chuẩn đổi. Với sai số chuẩn thường, ba giả thuyết IMAG, CUSA, PERV đều được ủng hộ ở mức 5%. Với HC3, IMAG (p = 0,099) và PERV (p = 0,061) không còn đạt. Nếu bỏ qua bước kiểm định, khoá luận này sẽ báo cáo hai kết luận mà dữ liệu không đủ ủng hộ.

Để đối chiếu: mô hình CUSA = IMAG + CUEX + PERQ + PERV trên cùng dữ liệu cũng có phương sai thay đổi (Breusch-Pagan Koenker LM = 18,39, p = 0,001), nhưng các biến có ý nghĩa vẫn giữ ý nghĩa với HC3 (IMAG p = 0,002; PERQ p < 0,001; PERV p = 0,002). Phương sai thay đổi không phải lúc nào cũng lật kết luận; bạn chỉ biết sau khi chạy lại.

Các số trên được tính bằng công thức OLS, Breusch-Pagan, White và HC3 chuẩn trên file mobi.csv; chạy lm(), lmtest::bptest() và sandwich::vcovHC(type = "HC3") trong R sẽ ra cùng kết quả đến chữ số thứ ba.

Khắc phục phương sai sai số thay đổi bằng cách nào?

Có bốn hướng, xếp theo mức hay dùng trong khoá luận:

  1. Sai số chuẩn vững (robust standard errors). Giữ nguyên hệ số OLS, chỉ tính lại sai số chuẩn theo công thức "sandwich" của White (1980). Long và Ervin (2000) mô phỏng và khuyên dùng HC3 khi mẫu dưới khoảng 250, vì HC0 (bản gốc của White) cho sai số chuẩn quá nhỏ ở mẫu nhỏ. Đây là cách ít rủi ro nhất vì không đổi mô hình.
  2. Biến đổi biến phụ thuộc. Lấy log khi biến dương và lệch phải (thu nhập, doanh thu, tổng tài sản). Hệ số khi đó đọc theo phần trăm. Không hợp với điểm trung bình thang Likert.
  3. Bình phương tối thiểu có trọng số (WLS, FGLS). Dùng khi biết phương sai tỷ lệ với một biến cụ thể, ví dụ quy mô doanh nghiệp. Hay gặp với dữ liệu tài chính hơn dữ liệu khảo sát.
  4. Xem lại mô hình. Phương sai thay đổi đôi khi là triệu chứng của dạng hàm sai: thiếu biến, thiếu bình phương, thiếu tương tác. Kiểm định White bắt được cả trường hợp này.

Lấy sai số chuẩn HC3 trong SPSS, Stata, R, EViews

  • SPSS 25 trở lên: Analyze → General Linear Model → Univariate, đưa biến độc lập vào Covariate, Options → tick Parameter estimates with robust standard errors, chọn HC3. Bản cũ hơn dùng macro HCREG của Hayes và Cai (2007).
  • Stata: regress cusl imag cusa perv cuex, vce(hc3). Lưu ý vce(robust) là HC1, không phải HC3.
  • R: lmtest::coeftest(m, vcov = sandwich::vcovHC(m, type = "HC3")).
  • EViews: Estimate Equation → Options → Coefficient covariance matrix: White hoặc HC (various).

Với dữ liệu bảng (panel), phương sai thay đổi đi kèm tự tương quan, nên dùng sai số chuẩn cụm theo đơn vị (cluster-robust) thay vì HC3; xem bài hồi quy dữ liệu bảng FEM, REM.

Phương sai thay đổi trong PLS-SEM và hồi quy logistic thì sao?

PLS-SEM không dùng sai số chuẩn theo công thức mà ước lượng bằng bootstrap, vốn không cần giả định phương sai đồng nhất (Hair et al., 2019). Vì vậy bạn không cần chạy Breusch-Pagan cho mô hình SmartPLS. Hồi quy logistic có phương sai thay đổi theo định nghĩa (phương sai phụ thuộc xác suất) và đã được mô hình tính đến; kiểm định Breusch-Pagan không áp dụng. Xem bài PLS-SEM là gì và hồi quy logistic trong SPSS.

Viết vào chương 4 như thế nào?

Kiểm định Breusch-Pagan theo dạng của Koenker (1981) cho thấy mô hình có hiện tượng phương sai sai số thay đổi (LM = 17,50; df = 4; p = 0,002), kết quả tương tự với kiểm định White (LM = 55,67; df = 14; p < 0,001). Do đó, nghiên cứu sử dụng sai số chuẩn vững HC3 (Long & Ervin, 2000) để kiểm định các hệ số hồi quy. Với sai số chuẩn vững, sự hài lòng tác động cùng chiều có ý nghĩa thống kê đến lòng trung thành (B = 0,423; SE = 0,146; p = 0,004), trong khi tác động của hình ảnh thương hiệu (B = 0,225; p = 0,099) và giá trị cảm nhận (B = 0,196; p = 0,061) không đạt mức ý nghĩa 5%.

Hai giả thuyết không đạt ở ví dụ này viết tiếp thế nào cho chương 5 có ở bài giả thuyết không được ủng hộ thì viết sao.

Những lỗi hay gặp

  • Chỉ nhìn biểu đồ rồi kết luận "phần dư phân tán ngẫu nhiên", không chạy kiểm định nào.
  • Dùng kiểm định Spearman giữa trị tuyệt đối phần dư và biến độc lập, một cách có trong vài giáo trình cũ, nhưng chỉ dò từng biến một và không được dùng trong bài báo quốc tế gần đây.
  • Thấy phương sai thay đổi liền bỏ biến hay loại quan sát cho "đẹp". Loại quan sát để đạt kiểm định là thao túng dữ liệu; hãy dùng sai số chuẩn vững và báo cáo trung thực.
  • Báo cáo HC3 nhưng vẫn ghi R² và F của bảng thường mà không nói rõ. R² không đổi; F nên lấy theo kiểm định Wald vững nếu phần mềm có.

Không chắc bảng kết quả của mình có vấn đề gì? Dán bảng vào Bác sĩ kết quả để được chỉ ra chỉ số nào chưa đạt và nên kiểm tra gì tiếp. Ngưỡng của các chỉ số khác có ở trang ngưỡng chấp nhận.

Câu hỏi thường gặp

Phương sai sai số thay đổi có làm hệ số hồi quy bị sai không?

Không. Hệ số B vẫn không chệch. Thứ bị sai là sai số chuẩn, nên p-value và khoảng tin cậy không đáng tin. Đó là lý do cách khắc phục phổ biến chỉ tính lại sai số chuẩn.

Kiểm định White hay Breusch-Pagan, nên chọn cái nào?

Báo cáo Breusch-Pagan bản Koenker làm chính vì vững khi phần dư không chuẩn, thêm White nếu mẫu đủ lớn (White với 4 biến dùng 14 bậc tự do). Hai kiểm định cùng kết luận thì càng chắc.

Dùng HC3 khi không có phương sai thay đổi có sao không?

Không sao nhiều. Khi phương sai đồng nhất, HC3 cho sai số chuẩn gần với sai số chuẩn thường, chỉ mất chút độ mạnh ở mẫu rất nhỏ. Long và Ervin (2000) thậm chí khuyên dùng HC3 mặc định cho mẫu nhỏ.

p của Breusch-Pagan bằng 0,03 nhưng biểu đồ trông ổn thì sao?

Tin kiểm định và dùng sai số chuẩn vững. Mắt người không nhận ra được phương sai thay đổi vừa phải, nhất là khi biến Likert chỉ có vài mức tạo nên các dải điểm song song.

Phương sai thay đổi khác đa cộng tuyến thế nào?

Đa cộng tuyến là các biến độc lập tương quan mạnh với nhau, đo bằng VIF. Phương sai thay đổi là phần dư phân tán không đều, đo bằng Breusch-Pagan hoặc White. Hai vấn đề độc lập; mô hình mobi ở trên không có đa cộng tuyến nhưng có phương sai thay đổi.

Tài liệu tham khảo

  • Breusch, T. S., & Pagan, A. R. (1979). A simple test for heteroscedasticity and random coefficient variation. Econometrica, 47(5), 1287–1294. https://doi.org/10.2307/1911963
  • Hair, J. F., Risher, J. J., Sarstedt, M., & Ringle, C. M. (2019). When to use and how to report the results of PLS-SEM. European Business Review, 31(1), 2–24. https://doi.org/10.1108/EBR-11-2018-0203
  • Hayes, A. F., & Cai, L. (2007). Using heteroskedasticity-consistent standard error estimators in OLS regression: An introduction and software implementation. Behavior Research Methods, 39(4), 709–722. https://doi.org/10.3758/BF03192961
  • Koenker, R. (1981). A note on studentizing a test for heteroscedasticity. Journal of Econometrics, 17(1), 107–112. https://doi.org/10.1016/0304-4076(81)90062-2
  • Long, J. S., & Ervin, L. H. (2000). Using heteroscedasticity consistent standard errors in the linear regression model. The American Statistician, 54(3), 217–224. https://doi.org/10.1080/00031305.2000.10474549
  • Tenenhaus, M., Esposito Vinzi, V., Chatelin, Y.-M., & Lauro, C. (2005). PLS path modeling. Computational Statistics & Data Analysis, 48(1), 159–205. https://doi.org/10.1016/j.csda.2004.03.005
  • White, H. (1980). A heteroskedasticity-consistent covariance matrix estimator and a direct test for heteroskedasticity. Econometrica, 48(4), 817–838. https://doi.org/10.2307/1912934

Bài liên quan