"Чому цей чорт такий A@B такий особливий?"
«Лінійне перетворення є фундаментальним у тому сенсі, що його єдина функція, яка зберігає лінійність. Що таке матмул? Матмул - це просто композиція двох лінійних перетворень.
Чорт забирай, дуже цікава папір. Після швидкого зменшення втрат ми бачимо уповільнення і дотримуємося «закону масштабування»: це пов'язано з тим, що на цих етапах градієнти починають конфліктувати один з одним.
Оновлення в якомусь сенсі «борються за модальну потужність», і в більшій моделі менше бойових дій. І це кількісно так.
Я пам'ятаю, що 5 років тому читання списків конф акцепт на кшталт нейріпсів було справжньою інтелектуально зростаючою діяльністю
Тепер його 70% штучного сміття, яке ріже очі, і величезна кількість жалюгідна