Un très bon cas d'utilisation pour les modèles locaux serait un modèle fortement entraîné en RL pour exceller dans une seule chose : déterminer le contexte approprié (fichiers, extraits) nécessaire pour résoudre une tâche donnée. (Beaucoup d'entrées/sorties locales, lectures parallèles de fichiers, etc.) Ensuite, utilisez le modèle distant pour planifier + coder.
4,02K