Chuyển giao trọng lượng là một trong những nút thắt lớn nhất khi thực hiện RL phân tán trên các mô hình có dung lượng cao. Blog nghiên cứu Perplexity đầu tiên của chúng tôi giải thích cách các kỹ sư suy diễn của Perplexity đã tận dụng giao tiếp RDMA điểm-điểm để mở khóa các cập nhật tham số siêu nhanh cho các mô hình có một triệu tỷ tham số. Bằng cách tận dụng các nguyên tắc RDMA cấp thấp, lập lịch tĩnh và ống dẫn, chúng tôi tăng tốc các cập nhật lên một bậc, chỉ còn 1,3 giây cho mỗi lần cập nhật.