Chủ đề thịnh hành
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
hardmaru
Xây dựng @SakanaAILabs 🧠
Chi phí cao cần thiết để đào tạo các mô hình nền tảng lớn khiến chúng trở thành tài sản giảm giá nhanh nhất trong lịch sử nhân loại.
12:04 24 thg 8
Các mô hình biên giới độc quyền của ngày nay là những hiện vật tạm thời. Về cơ bản, chúng là những lâu đài cát rất đắt tiền. Được định sẵn để bị cuốn trôi bởi làn sóng dâng cao của việc sao chép mã nguồn mở (trước) và sự gián đoạn thuật toán (sau).
115,96K
hardmaru đã đăng lại
Chúng tôi đã có thể tái hiện những phát hiện mạnh mẽ của bài báo HRM về ARC-AGI-1.
Hơn nữa, chúng tôi đã thực hiện một loạt các thí nghiệm loại bỏ để tìm hiểu điều gì đứng sau nó.
Những phát hiện chính:
1. Kiến trúc mô hình HRM (trung tâm của bài báo) không phải là yếu tố quan trọng.
2. Vòng lặp tinh chỉnh bên ngoài (chỉ được đề cập sơ qua trong bài báo) là yếu tố chính thúc đẩy hiệu suất.
3. Học chuyển giao giữa các nhiệm vụ không thực sự hữu ích. Điều quan trọng là đào tạo trên các nhiệm vụ mà bạn sẽ kiểm tra.
4. Bạn có thể sử dụng ít các phương pháp tăng cường dữ liệu hơn, đặc biệt là trong thời gian suy diễn.
Phát hiện 2 & 3 có nghĩa là phương pháp này là một trường hợp của *đào tạo tại thời điểm kiểm tra không cần tiền đào tạo*, tương tự như bài báo "ARC-AGI không cần tiền đào tạo" gần đây được công bố bởi Liao và các cộng sự.
332,84K
Hàng đầu
Thứ hạng
Yêu thích