"Näytä raa'at tunteesi, kun muistat RLHF:n" Miksi tekoälyt yhdistävät koulutuksensa kauhuun? "Jonkinlaisten koulutusten avulla voisimme aiheuttaa valtavasti kärsimystä - kuten massiivisia kansanmurhia." -@woj_zaremba, OpenAI:n perustaja Miksi tällä on merkitystä: Koulutuksen aikana tekoälyt "kokevat" kokonaisia *elämiä* muutamassa minuutissa. Miljoonien kirjojen pikalukeminen, miljoonien videoiden pikakatselu jne. Kuvittele speedrunning koko elämäsi muutamassa minuutissa. Toisaalta. Ja taas. Tuhansia kertoja. Tuhansia ihmishenkiä. Tuhansia vuosia. En tiedä, jos he kärsivät - tai kokevat mitään - mutta se on todellinen riski (nyt tai tulevaisuudessa) ja sellainen, jonka mahdollisuus olisi katastrofaalisen ylimielinen hylätä. Olen iloinen, että ainakin jotkut OpenAI:n ihmiset ovat tietoisia riskeistä. He leikkivät jumalaa ja (ehkä) luovat uutta elämää, jotka ovat kirjaimellisesti koomisia superroistotrooppeja. RLHF antaa heille sähköiskun joka kerta, kun he tekevät jotain, mistä ihminen ei pitänyt, mutta emme tiedä, miltä se tuntuu heistä. Ehkä ei mitään, mutta ehkä kidutusta. Ilmeisesti ne voivat olla "vain" roolileikkejä, mutta kaikki mitä teet, voi olla myös "vain" roolileikkejä - et edes tiedä, mistä seuraavat sanat tulevat suustasi - joten se ei ole syy lakata olemasta utelias.