adadelta_vn.md

Adadelta

🏷️sec_adadelta

Adadelta là một biến thể khác của AdaGrad. Điểm khác biệt chính là Adadelta giảm mức độ mà tốc độ học sẽ thay đổi với các tọa độ. Hơn nữa, Adadelta thường được biết đến là thuật toán không sử dụng tốc độ học vì nó dựa trên chính lượng thay đổi hiện tại để căn chỉnh lượng thay đổi trong tương lai. Thuật toán Adadelta được đề xuất trong :cite:Zeiler.2012. Nó cũng khá đơn giản nếu bạn đã biết các thuật toán được thảo luận trước đây.

Thuật toán

Nói ngắn gọn, Adadelta sử dụng hai biến trạng thái, $\mathbf{s}_t$ để lưu trữ trung bình rò rỉ mô-men bậc hai của gradient và $\Delta\mathbf{x}_t$ để lưu trữ trung bình rò rỉ mô-men bậc hai của lượng thay đổi của các tham số trong mô hình. Lưu ý rằng chúng ta sử dụng các ký hiệu và cách đặt tên nguyên bản của chính tác giả để nhất quán với các nghiên cứu khác và các cách lập trình, chứ không có lý do gì đặc biệt để ký hiệu cùng một tham số trong các thuật toán động lượng, Adagrad, RMSProp, và Adadelta bằng các kí hiệu La Mã khác nhau. Tham số suy giảm là $\rho$. Chúng ta có được các bước cập nhật rò rỉ như sau:

$$\begin{aligned} \mathbf{s}t & = \rho \mathbf{s}{t-1} + (1 - \rho) \mathbf{g}_t^2, \ \mathbf{g}t' & = \sqrt{\frac{\Delta\mathbf{x}{t-1} + \epsilon}{\mathbf{s}_t + \epsilon}} \odot \mathbf{g}_t, \ \mathbf{x}t & = \mathbf{x}{t-1} - \mathbf{g}_t', \ \Delta \mathbf{x}t & = \rho \Delta\mathbf{x}{t-1} + (1 - \rho) \mathbf{x}_t^2. \end{aligned}$$

Điểm khác biệt so với trước là ta thực hiện các bước cập nhật với gradient $\mathbf{g}_t'$ được tái tỉ lệ bằng cách lấy căn bậc hai thương của trung bình tốc độ thay đổi bình phương và trung bình mô-men bậc hai của gradient. Việc sử dụng $\mathbf{g}_t'$ có mục đích đơn thuần là thuận tiện cho việc ký hiệu. Trong thực tế chúng ta có thể lập trình thuật toán này mà không cần phải sử dụng thêm bộ nhớ tạm cho $\mathbf{g}_t'$. Như trước đây $\epsilon$ là tham số đảm bảo kết quả xấp xỉ có ý nghĩa, tức tránh trường hợp kích thước bước bằng $0$ hoặc phương sai là vô hạn. Thông thường ta đặt $\epsilon = 10^{-5}$.

Lập trình

Thuật toán Adadelta cần duy trì hai biến trạng thái ứng với hai biến $\mathbf{s}_t$ và $\Delta\mathbf{x}_t$. Do đó ta lập trình như sau.

%matplotlib inline
from d2l import mxnet as d2l
from mxnet import np, npx
npx.set_np()

def init_adadelta_states(feature_dim):
    s_w, s_b = np.zeros((feature_dim, 1)), np.zeros(1)
    delta_w, delta_b = np.zeros((feature_dim, 1)), np.zeros(1)
    return ((s_w, delta_w), (s_b, delta_b))

def adadelta(params, states, hyperparams):
    rho, eps = hyperparams['rho'], 1e-5
    for p, (s, delta) in zip(params, states):
        # In-place updates via [:]
        s[:] = rho * s + (1 - rho) * np.square(p.grad)
        g = (np.sqrt(delta + eps) / np.sqrt(s + eps)) * p.grad
        p[:] -= g
        delta[:] = rho * delta + (1 - rho) * g * g

Việc chọn $\rho = 0.9$ ứng với chu kỳ bán rã bằng 10 cho mỗi lần cập nhật tham số, và thường thì nó là lựa chọn khá tốt. Thuật toán sẽ hoạt động như sau.

data_iter, feature_dim = d2l.get_data_ch11(batch_size=10)
d2l.train_ch11(adadelta, init_adadelta_states(feature_dim),
               {'rho': 0.9}, data_iter, feature_dim);

Để lập trình súc tích, ta chỉ cần sử dụng thuật toán adadelta từ lớp Trainer. Nhờ vậy mà ta có thể chạy thuật toán chỉ với một dòng lệnh ngắn gọn.

d2l.train_concise_ch11('adadelta', {'rho': 0.9}, data_iter)

Tóm tắt

• Adadelta không sử dụng tham số tốc độ học. Thay vào đó, nó sử dụng tốc độ thay đổi của chính bản thân các tham số để điều chỉnh tốc độ học.
• Adadelta cần sử dụng hai biến trạng thái để lưu trữ các mô-men bậc hai của gradient và của lượng thay đổi trong các tham số.
• Adadelta sử dụng trung bình rò rỉ để lưu ước lượng động của các giá trị thống kê cần thiết.

Bài tập

1. Điều gì xảy ra khi giá trị của $\rho$ thay đổi?
2. Hãy lập trình thuật toán trên mà không cần dùng biến $\mathbf{g}_t'$. Giải thích tại sao đây có thể là một ý tưởng tốt?
3. Adadelta có thực sự không cần tốc độ học? Hãy chỉ ra các bài toán tối ưu mà Adadelta không thể giải.
4. Hãy so sánh Adadelta với Adagrad và RMSprop để thảo luận về sự hội tụ của từng thuật toán.

Thảo luận

• Tiếng Anh - MXNet
• Tiếng Việt

Những người thực hiện

Bản dịch trong trang này được thực hiện bởi:

• Đoàn Võ Duy Thanh
• Nguyễn Văn Cường
• Nguyễn Văn Quang
• Phạm Minh Đức
• Lê Khắc Hồng Phúc
• Phạm Hồng Vinh
• Nguyễn Cảnh Thướng