Checkpoint: Đạo hàm và gradient
Quiz
- Đường loss của model đi qua hai điểm (1, 9.0) và (4, 3.0), trục x là số vòng lặp. Độ dốc trung bình trên khoảng này là bao nhiêu và nó nói gì?
- 0, vì loss đã thay đổi nên không có độ dốc
- -2.0, mỗi vòng lặp thêm thì loss giảm trung bình 2.0 đơn vị
- -0.5, vì lấy Δx/Δy
- 2.0, mỗi vòng lặp thêm thì loss tăng trung bình 2.0 đơn vị
- Chọn tất cả phát biểu đúng về đạo hàm f'(x) tại một điểm.
- f'(x) là độ dốc của tiếp tuyến với đồ thị tại điểm đó
- f'(x) bằng giá trị của hàm f tại điểm đó
- f'(x) là giới hạn của secant slope khi h tiến về 0
- f'(x) = 0 nghĩa là chắc chắn hàm đạt cực tiểu tại điểm đó
- Độ lớn |f'(x)| cho biết mặt loss dốc cỡ nào
- Với y = (3x + 1)^2, đạo hàm dy/dx = ____ (viết dưới dạng biểu thức theo x, ví dụ 6(3x+1)).
- Với L = (ŷ - y)^2 và ŷ = wx + b, đạo hàm riêng ∂L/∂w bằng gì?
- (ŷ - y)·x^2
- 2(y - ŷ)·x
- 2(ŷ - y)·x
- 2(ŷ - y)
- Cho f(x,y) = x^2y + 3y^2. Đạo hàm riêng ∂f/∂y = ____ (biểu thức theo x và y).
- Chọn tất cả phát biểu đúng về vector gradient ∇f.
- Muốn giảm loss thì cập nhật theo hướng -∇L
- ∇f chỉ hướng giảm nhanh nhất của hàm
- ∇f song song với đường mức tại điểm đang xét
- ∇f chỉ hướng tăng nhanh nhất của hàm
- ∇f gồm các đạo hàm riêng theo từng biến, cùng số chiều với input
- Với loss MSE L(w,b) = (1/n)Σ(ŷ_i - y_i)^2, đạo hàm riêng ∂L/∂b = ____ (viết theo n, ŷ_i, y_i).
- Tự đánh giá: bạn có tính tay được vector gradient của loss hồi quy tuyến tính trên dataset nhỏ x = [1,2,3], y = [2,3,5] tại một điểm (w, b) bất kỳ không? Hãy tính ∇L tại w = 0, b = 0 rồi đối chiếu với các tiêu chí dưới đây.
Sign in to submit answers.