# ✅ Checkpoint: tích chập và backprop By Better Wise ## Quiz 1. Một lớp conv 2D nhận input (N=8, C=3, H=W=32), kernel K=5, stride S=2, padding P=2. H_out và W_out bằng bao nhiêu? - 15 và 15 - 16 và 16 - 14 và 14 - 32 và 32 2. Số tham số của một lớp conv có C_in=3, C_out=16, kernel 3x3 (có bias) là bao nhiêu? - 16 × 3 × 3 = 144 - 16 × 3 × 3 × 3 = 432 - 16 × (3 × 3 × 3 + 1) = 448 - 3 × 3 × 3 + 1 = 28 3. Những phát biểu nào đúng về im2col và vector hóa tích chập? (chọn tất cả đáp án đúng) - Có thể bỏ bước transpose sau reshape mà kết quả vẫn khớp naive conv. - Số hàng của im2col là N * H_out * W_out, xếp theo thứ tự (n, i, j). - Sau GEMM, phải reshape về (N, H_out, W_out, C_out) rồi transpose để về channel-first. - im2col giảm bộ nhớ so với naive conv vì không sao chép dữ liệu. - Mỗi hàng của ma trận im2col là một patch K×K×C_in đã trải phẳng, dài C_in*K*K phần tử. 4. Trong backward của lớp conv dùng im2col, những phát biểu nào đúng? (chọn tất cả đáp án đúng) - dX_col = dY_col @ W_colᵀ, sau đó scatter-add về dX shape (N, C, H, W). - Backward của conv cần một công thức riêng, không liên quan đến backward của lớp tuyến tính. - dW_col = X_colᵀ @ dY_col, sau đó reshape về (F, C, KH, KW). - db là tổng dY theo cả batch lẫn hai trục không gian. - dX có thể gán trực tiếp từ dX_col vì mỗi pixel input chỉ thuộc một receptive field. 5. Với lớp tuyến tính Y = XW + b, gradient theo weight được tính bằng công thức ____ (viết dạng biểu thức với X và dY). 6. Để đưa dX_col (shape N*OH*OW, C*KH*KW) về dX shape (N, C, H, W), ta phải dùng phép ____ các cột về vị trí pixel gốc, không được gán trực tiếp. 7. Hãy tự đánh giá khả năng của bạn trong việc suy ra và kiểm tra gradient của lớp tuyến tính và lớp tích chập. 8. Hãy tự đánh giá mức độ nắm vững quy trình kiểm tra shape và vector hóa tích chập trước khi viết code. --- ## Contents Part of [🧠 Khóa 5: Toán cho Machine Learning — tích chập, softmax và lan truyền ngược cho deep learning](https://everwise.study/courses/khoa-5-toan-cho-machine-learning-tich-chap-softmax-va-lan-truyen-nguoc-cho.md) - **🖼️ Tích chập, shape và lan truyền ngược** - [🔲 Tích chập 1D và 2D: kernel, stride, padding](https://everwise.study/courses/khoa-5-toan-cho-machine-learning-tich-chap-softmax-va-lan-truyen-nguoc-cho/tich-chap-1d-2d-kernel-stride-padding.md) - [📐 Kiểm tra shape và vector hóa tích chập bằng im2col](https://everwise.study/courses/khoa-5-toan-cho-machine-learning-tich-chap-softmax-va-lan-truyen-nguoc-cho/kiem-tra-shape-va-vector-hoa-tich-chap-im2col.md) (sign-in required) - [🔁 Lan truyền ngược qua lớp tuyến tính và lớp tích chập](https://everwise.study/courses/khoa-5-toan-cho-machine-learning-tich-chap-softmax-va-lan-truyen-nguoc-cho/lan-truyen-nguoc-qua-lop-tuyen-tinh-va-lop-tich-chap.md) - [✅ Checkpoint: tích chập và backprop](https://everwise.study/courses/khoa-5-toan-cho-machine-learning-tich-chap-softmax-va-lan-truyen-nguoc-cho/checkpoint-tich-chap-va-backprop.md) — this lesson - **📉 Softmax, cross-entropy và numerical stability** - [📊 Softmax và log-sum-exp: ổn định số học](https://everwise.study/courses/khoa-5-toan-cho-machine-learning-tich-chap-softmax-va-lan-truyen-nguoc-cho/softmax-va-log-sum-exp-on-dinh-so-hoc.md) - [🎯 Cross-entropy và đạo hàm của loss theo từng tham số](https://everwise.study/courses/khoa-5-toan-cho-machine-learning-tich-chap-softmax-va-lan-truyen-nguoc-cho/cross-entropy-va-dao-ham-loss-theo-tham-so.md) - [🧪 Vanishing/exploding gradient, numerical stability và gradient checking](https://everwise.study/courses/khoa-5-toan-cho-machine-learning-tich-chap-softmax-va-lan-truyen-nguoc-cho/vanishing-exploding-gradient-numerical-stability-gradient-checking.md) - [✅ Checkpoint: loss, gradient và numerical stability](https://everwise.study/courses/khoa-5-toan-cho-machine-learning-tich-chap-softmax-va-lan-truyen-nguoc-cho/checkpoint-loss-gradient-va-numerical-stability.md) - **🚀 Capstone: forward/backward cho mạng 2 lớp** - [🏗️ Project: forward pass và kiểm tra shape cho mạng 2 lớp](https://everwise.study/courses/khoa-5-toan-cho-machine-learning-tich-chap-softmax-va-lan-truyen-nguoc-cho/project-forward-pass-va-kiem-tra-shape-mang-2-lop.md) - [⚙️ Project: backward pass, gradient checking và training loop](https://everwise.study/courses/khoa-5-toan-cho-machine-learning-tich-chap-softmax-va-lan-truyen-nguoc-cho/project-backward-pass-gradient-checking-va-training-loop.md) (premium content) - [✅ Checkpoint: capstone forward/backward](https://everwise.study/courses/khoa-5-toan-cho-machine-learning-tich-chap-softmax-va-lan-truyen-nguoc-cho/checkpoint-capstone-forward-backward.md) (premium content) - [Course cheatsheet](https://everwise.study/courses/khoa-5-toan-cho-machine-learning-tich-chap-softmax-va-lan-truyen-nguoc-cho/cheatsheet.md) (premium content)