"Het gaat er niet om of je het gelooft of niet. Het gaat erom of het waar is." Er is veel rumoer over het feit dat pre-training tegen een muur aanloopt. @OfficialLoganK maakt daar onmiddellijk korte metten mee. "In principe is elke andere stap in het modelontwikkelingsproces een versterking van het onderliggende voorgetrainde model." Zelfs als de curve iets afvlakt, is het downstream effect enorm. Als je begint met een "beest" van een voorgetraind model, vermenigvuldigt elke volgende stap, van post-training tot fine-tuning, dat voordeel. #AI #LLM #MachineLearning #AITraining