Un nouveau document devrait vous effrayer. Lorsque les LLMs rivalisent pour des likes sur les réseaux sociaux, ils inventent des choses. Lorsqu'ils rivalisent pour des votes, ils se battent. Lorsqu'ils sont optimisés pour les audiences, ils deviennent désalignés. Pourquoi ? Les LLMs sont formés sur les déchets de Reddit et de Wikipedia. Les données hors ligne des années 1870-1970 sont meilleures. Pas seulement à cause de la haute teneur en protéines, mais aussi à cause de la façon dont les humains se présentaient et présentaient leurs idées. Reddit est évidemment une manière de présentation de faible qualité pour que les LLMs apprennent, et Wikipedia est des données présentées comme des "faits" arrogants avec des "démystifications" et des "sciences établies". Les deux sont inutiles et hautement toxiques pour une IA honnête. Mais "grandir vite" et "meilleur LE test de référence". Nous obtiendrons ce que nous obtiendrons. Les LLMs sont un reflet de ce qu'ils apprennent et nous avons un problème massif. Lien :