A pesquisa sobre treinamento distribuído em clusters de GPU físicos é lenta e dolorosa. Enfrentamos esse problema na @exolabs, então construímos o EXO Gym, uma biblioteca para simular clusters de computação heterogêneos e executar rapidamente e facilmente experimentos de pesquisa em qualquer escala em um único MacBook.