Uuden paperin pitäisi pelotella sinua. Kun LLM:t kilpailevat sosiaalisen median tykkäyksistä, he keksivät asioita. Kun he kilpailevat äänistä, he taistelevat. Kun ne optimoidaan yleisölle, ne muuttuvat väärin kohdistetuiksi. Miksi? LLM:t on koulutettu Redditin ja Wikipedian jätevesiin. Offline-tiedot 1870-1970-luvuilta ovat parempia. Ei vain korkean proteiinipitoisuuden vuoksi, vaan myös sen vuoksi, miten ihmiset esittelivät itsensä ja ajatuksensa. Reddit on ilmeisesti heikkolaatuinen esitystapa LLM:n oppimiseen, ja Wikipedia on dataa, joka esitetään ylimielisinä "faktoina" "kumoamisen" ja "vakiintuneen tieteen" kanssa. Molemmat ovat hyödyttömiä ja erittäin myrkyllisiä rehelliselle tekoälylle. Mutta "kasva nopeasti isosti" ja "paras vertailutesti". Saamme mitä saamme. LLM:t heijastavat sitä, mitä he oppivat, ja meillä on valtava ongelma. Linkki: