A IA descentralizada não será como pensávamos. Himanshu Tyagi (@hstyagi), fundador da @SentientAGI, explica por que o treinamento descentralizado é mais realista do que as pessoas assumem: “As pessoas acham que descentralizar o treinamento é impossível, que você teria que espalhá-lo por milhões de pequenos dispositivos. Mas não é assim que tem que funcionar.” “Eu trabalhei em aprendizado federado na minha vida acadêmica. Eu costumava acreditar que o aprendizado descentralizado nunca seria real. Mas eu perdi um ponto crucial: você não precisa descentralizar completamente.” A chave da percepção: “Clusters — não dispositivos — são a unidade de descentralização. Grupos de 500 GPUs não são tão difíceis de conseguir. Muitas pessoas podem montá-los. É como um bom projeto imobiliário.” E grandes players já fazem isso: “O Google e outros descentralizam internamente dessa forma. Esse tipo de descentralização é possível.” Então, qual é a verdadeira barreira? “A parte difícil não é o método de treinamento, é a estrutura regulatória e tarifária em torno da distribuição de chips.”