Lấy mẫu, ước lượng điểm và sai số chuẩn
Hai module trước đã trang bị cho bạn ngôn ngữ của xác suất, biến ngẫu nhiên và phân phối chuẩn. Giờ là tình huống thật của người làm phân tích: bạn chỉ có một mẫu, nhưng phải phát biểu về cả quần thể. Khoảng cách giữa con số "1.82 giây" đo trên 400 phiên và "thời gian tải trang trung bình của toàn bộ người dùng" chính là nội dung bài này.
Sau bài này, bạn có thể:
- Phân biệt tham số quần thể và thống kê mẫu, và nhớ rằng trung bình mẫu là một biến ngẫu nhiên.
- Mô tả phân phối lấy mẫu (sampling distribution) và đọc sai số chuẩn của nó.
- Tính sai số chuẩn cho trung bình và cho tỉ lệ bằng số cụ thể.
- Giải thích vì sao mẫu lớn làm ước lượng ổn định hơn, và vì sao lợi ích đó giảm dần.
Một con số đứng trước cả quần thể
Gọi $\mu$ là thời gian tải trang trung bình thật của 2 triệu người dùng. Bạn không bao giờ biết $\mu$ chính xác, chỉ biết $\bar{x} = 1.82$ giây từ 400 phiên. Câu hỏi của một nhà phân tích hoài nghi không phải "1.82 có đúng không", mà là: nếu ngày mai lấy mẫu khác, con số này nhảy bao nhiêu?
Ba khái niệm cần tách bạch:
| Tham số quần thể | Thống kê mẫu | |
|---|---|---|
| Ký hiệu | $\mu$, $\sigma$, $p$ | $\bar{x}$, $s$, $\hat{p}$ |
| Bản chất | hằng số, nhưng không biết | biến ngẫu nhiên, đổi theo mẫu |
| Vai trò | thứ ta muốn biết | ước lượng điểm (point estimate) |
Ước lượng điểm chỉ là một con số duy nhất, không kèm theo gì cả. Vì thế nó gần như luôn sai ở một mức nào đó. Việc của ta là định lượng "mức nào đó".
Điểm mà người mới hay bỏ qua: $\bar{x}$ là biến ngẫu nhiên, nên nó có phân phối riêng. Mỗi lần lấy mẫu là một lần tung xúc xắc, chỉ khác là xúc xắc có 400 mặt.
Phân phối lấy mẫu: lấy mẫu nhiều lần trong đầu
Tưởng tượng bạn lặp lại việc lấy 400 phiên, tính $\bar{x}$, làm vậy 10.000 lần. Tập hợp 10.000 giá trị đó tạo thành phân phối lấy mẫu của $\bar{x}$. Hai tính chất quyết định:
- $E[\bar{x}] = \mu$: trung bình của các ước lượng bằng giá trị thật, nên $\bar{x}$ là ước lượng không chệch (unbiased).
- $SD(\bar{x}) = \sigma / \sqrt{n}$: độ tản mát của các ước lượng. Đây chính là sai số chuẩn (standard error).
$$ SE_{\bar{x}} = \frac{\sigma}{\sqrt{n}} $$
Với $\sigma = 0.6$ giây, $n = 400$: $SE = 0.6/20 = 0.03$ giây. Nghĩa là nếu $\mu = 1.80$, thì $\bar{x}$ thường rơi quanh 1.80 trong khoảng ±0.06 (khoảng hai SE).
Thêm định lý giới hạn trung tâm: khi $n$ đủ lớn (thường $n \ge 30$), phân phối lấy mẫu của $\bar{x}$ xấp xỉ chuẩn, bất kể quần thể méo mó thế nào. Nhờ đó ta tính được xác suất:
Note: Với $\bar{x} \sim N(1.80,\ 0.03^2)$, xác suất thấy trung bình mẫu từ 1.86 trở lên là $P(Z \ge 2) \approx 2.3%$. Con số này là mầm của kiểm định ở bài sau, ở đây chỉ cần thấy: phân phối lấy mẫu cho ta một thước đo để hỏi "có bất thường không".
Từ công thức σ/√n đến con số cụ thể
Cỡ mẫu thay đổi thì độ rung thay đổi, nhưng không tuyến tính:
| Cỡ mẫu $n$ | $SE$ ($\sigma = 0.6$) | Vùng ±2 SE |
|---|---|---|
| 100 | 0.060 | ±0.12 |
| 400 | 0.030 | ±0.06 |
| 1600 | 0.015 | ±0.03 |
Đọc bảng này theo chiều ngược: gấp 4 lần cỡ mẫu chỉ giảm một nửa sai số chuẩn. Muốn giảm 10 lần, cần mẫu lớn hơn 100 lần. Đây là lý do thực tế vì sao "cứ thu thêm dữ liệu" không phải lúc nào cũng đáng tiền: từ $n = 10.000$ lên $n = 40.000$ chỉ mua được một nửa sai số.
Sai số chuẩn đo độ rung của ước lượng, không đo độ tản mát của dữ liệu. Một quần thể rất biến động ($\sigma$ lớn) vẫn cho ước lượng rất chắc, miễn là $n$ đủ lớn.
Ước lượng tỉ lệ: 120 trên 400
Với biến nhị phân (click hay không click), ước lượng điểm là $\hat{p} = 120/400 = 0.30$, và:
$$ SE_{\hat{p}} = \sqrt{\frac{\hat{p}(1-\hat{p})}{n}} = \sqrt{\frac{0.30 \times 0.70}{400}} \approx 0.023 $$
Tức 30% với sai số chuẩn khoảng 2.3 điểm phần trăm. Giờ áp dụng thói hoài nghi: hôm nay đo được 30%, mai đo được 28%. Chênh lệch 2 điểm, trong khi sai số chuẩn của hiệu hai tỉ lệ độc lập xấp xỉ $\sqrt{2 \times 0.023^2} \approx 3.2$ điểm. Hiệu 2 điểm nhỏ hơn cả nhiễu của một lần đo. Kết luận trung thực: chưa có gì để báo cáo.
Xấp xỉ chuẩn cho tỉ lệ cần $n\hat{p} \ge 10$ và $n(1-\hat{p}) \ge 10$; ở đây là 120 và 280, thoải mái.
Sai số chuẩn không phải độ lệch chuẩn
Đây là nhầm lẫn phổ biến nhất khi đọc báo cáo, và nó thường bị giấu sau chữ "±".
| Độ lệch chuẩn ($\sigma$, $s$) | Sai số chuẩn ($SE$) | |
|---|---|---|
| Đo cái gì | độ tản mát của các cá thể quanh trung bình | độ tản mát của các ước lượng quanh tham số |
| Phụ thuộc $n$ | không | có, theo $1/\sqrt{n}$ |
| Đơn vị | giây | giây |
| Dùng để | mô tả dữ liệu | nói ước lượng không chắc đến đâu |
Nếu một báo cáo ghi "thời gian tải 1.82 ± 0.6 giây", con số 0.6 gần như chắc chắn là độ lệch chuẩn của các phiên, không phải sai số chuẩn của ước lượng. Hai thứ chênh nhau 20 lần trong ví dụ này.
- Trung bình mẫu là một _____, nên nó có phân phối riêng gọi là phân phối lấy mẫu.
- Sai số chuẩn của trung bình mẫu bằng σ chia cho _____.
- Tăng cỡ mẫu lên 4 lần thì sai số chuẩn _____.
- Với tỉ lệ mẫu, sai số chuẩn bằng căn bậc hai của _____.
- Độ lệch chuẩn mô tả độ tản mát của các _____ quanh trung bình quần thể.
- Muốn giảm sai số chuẩn 10 lần thì cần mẫu lớn hơn _____ lần.
Những chỗ con số dễ nói dối
- Mẫu lớn không chữa được mẫu chệch. Nếu bạn chỉ đo phiên của người dùng đã đăng nhập, $n = 100.000$ vẫn cho ước lượng sai. Công thức $SE$ chỉ mô tả nhiễu ngẫu nhiên, không mô tả thiên lệch chọn mẫu.
- Dữ liệu phụ thuộc làm $n$ ảo. 400 phiên của 20 user không mang lượng thông tin của 400 quan sát độc lập. Sai số chuẩn thật lớn hơn công thức, đôi khi rất nhiều.
- Làm tròn quá sớm. Giữ ít nhất hai chữ số ở $SE$ trước khi so sánh, vì bản thân $SE$ cũng là một ước lượng và cũng có sai số.
- Quy tắc ngón tay: nếu hiệu hai con số nhỏ hơn khoảng $2 \times SE$ của hiệu, hãy coi đó là nhiễu cho đến khi có bằng chứng khác.
- Kiểm tra lại đơn vị. $SE$ cùng đơn vị với tham số; sai một bậc (giây và mili giây) là lỗi làm hỏng cả báo cáo.
Mang gì sang bài sau
Bốn điều cần nhớ: tham số là hằng số chưa biết, thống kê mẫu là biến ngẫu nhiên; phân phối lấy mẫu là phân phối của thống kê đó; $SE = \sigma/\sqrt{n}$ (và $\sqrt{\hat{p}(1-\hat{p})/n}$ cho tỉ lệ); mẫu lớn làm ước lượng ổn định theo $1/\sqrt{n}$, nhưng không sửa được thiên lệch.
Ước lượng điểm vẫn chỉ là một điểm. Bài tiếp theo biến nó thành một khoảng: khoảng tin cậy, p-value, và những cách đọc sai phổ biến của cả hai.
Front: Tham số quần thể khác thống kê mẫu ở đâu? Back: Tham số (μ, σ, p) là hằng số chưa biết; thống kê mẫu (x̄, s, p̂) là biến ngẫu nhiên, đổi theo từng mẫu.
Front: Phân phối lấy mẫu là gì? Back: Phân phối của một thống kê khi lặp lại việc lấy mẫu cùng cỡ n rất nhiều lần.
Front: Kỳ vọng của trung bình mẫu bằng gì? Back: Bằng μ, nên x̄ là ước lượng không chệch của trung bình quần thể.
Front: Công thức sai số chuẩn của trung bình mẫu? Back: SE = σ/√n, dùng s khi chưa biết σ.
Front: Tăng n từ 100 lên 400 thì sai số chuẩn đổi thế nào? Back: Giảm một nửa, vì SE tỉ lệ nghịch với căn bậc hai của n.
Front: Sai số chuẩn của tỉ lệ mẫu? Back: Căn bậc hai của p̂(1-p̂)/n.
Front: Định lý giới hạn trung tâm nói gì? Back: Với n đủ lớn, phân phối lấy mẫu của x̄ xấp xỉ chuẩn, bất kể hình dạng quần thể.
Front: Điều kiện thường dùng cho xấp xỉ chuẩn của tỉ lệ? Back: np̂ ≥ 10 và n(1-p̂) ≥ 10.
Front: Độ lệch chuẩn và sai số chuẩn khác nhau ở điểm cốt lõi nào? Back: SD đo độ tản mát giữa các cá thể; SE đo độ tản mát giữa các ước lượng và nhỏ đi khi n tăng.
Front: Vì sao mẫu lớn làm ước lượng ổn định hơn? Back: Vì SE giảm theo 1/√n nên vùng rung quanh ước lượng hẹp lại.
Front: Vì sao chênh lệch 2 điểm phần trăm giữa hai ngày chưa đáng báo cáo khi SE là 2.3 điểm? Back: Vì hiệu đó nhỏ hơn khoảng 2 lần SE của hiệu, tức nằm trong vùng nhiễu.
Front: Chỉ lấy mẫu từ user đang đăng nhập làm hỏng điều gì? Back: Gây thiên lệch chọn mẫu; công thức sai số chuẩn không sửa được chệch, chỉ mô tả nhiễu.
Front: Nhiều phiên của cùng một user có làm n tăng đúng nghĩa không? Back: Không, dữ liệu phụ thuộc nên lượng thông tin thực nhỏ hơn n và SE thực lớn hơn công thức.