Onko sinulla Mac, jossa on M-siru? Voit nyt kouluttaa Gemma3 270m paikallisesti monikielisenä upotus- tai uudelleensijoitusmallina käyttämällä mlx-retrieval-projektiamme. Sen avulla voit harjoitella Gemma3:a 270 metriä paikallisesti nopeudella 4000 token/s M3 Ultralla - se on itse asiassa käyttökelpoinen nopeus. Olemme ottaneet käyttöön joitakin vakiokäytäntöjä tehokkaan vain dekooderin upotus- tai uudelleensijoitusmallin kouluttamiseen MLX:n avulla: täysi/osittainen LoRA, InfoNCE, gradientin kertyminen ja suoratoiston datan lataaja. Lisäksi MTEB-integraatio junien arviointisilmukoita varten.
28,92K