Ett nytt papper borde skrämma dig. När LLM:er tävlar om likes på sociala medier hittar de på saker. När de tävlar om röster, slåss de. När de optimeras för målgrupper blir de feljusterade. Varför? LLM:er är utbildade på avloppsvatten på Reddit och Wikipedia. Off-line data från 1870-1970-talet är bättre. Inte bara på grund av det höga proteinhalten, utan på grund av hur människor presenterade sig själva och sina idéer. Reddit är uppenbarligen ett presentationssätt av låg kvalitet för LLM:er att lära sig och Wikipedia är data som presenteras som arroganta "fakta" med "debunking" och "etablerad vetenskap". Båda är värdelösa och mycket giftiga för en ärlig AI. Men "grow big fast" och "best THE benchmark test". Vi får vad vi får. LLM:er är en återspegling av vad de lär sig och vi har ett enormt problem. Länk: