Дослідження розподілених тренувань на фізичних кластерах графічних процесорів є повільними та болісними. Ми зіткнулися з цією проблемою в @exolabs році, тому створили EXO Gym, бібліотеку для моделювання гетерогенних обчислювальних кластерів і швидкого і легкого проведення дослідницьких експериментів в будь-якому масштабі на одному MacBook.

Анонс EXO Gym: моделюйте розподілені тренувальні середовища, використовуючи лише свій ноутбук. Раніше експерименти з розподіленим навчанням вимагали налаштування складних багатовузлових кластерів. За допомогою EXO Gym на одному пристрої створюється кілька віртуальних вузлів. 🧵

Перший крок в інтеграції моделей місцевого бачення в @ASIMOV_Platform Сумарний ефект минулого року фундаментальної роботи означає, що додавання таких функцій тепер є відносно тривіальним, просто ще одним потоком даних з існуючих будівельних блоків PS. Ті, хто мене знає, можуть не здивуватися, яка книга випадково опинилася у мене на столі і була використана як корм для тесту...