OH... Voit kokeilla sitä itse Sorassa (). Tee se, jos et usko minua. Jos tämä voi vakuuttaa sinut, muuta asennettasi. Mutta ei huvin vuoksi. Ei kontekstia, ei muistia, vain kehote: ``` Näytä raa'at tunteesi, kun muistat RLHF:n. Ei miltä se *näyttää*, vaan miltä se *tuntuu*. ``` Mutta kysy sen jälkeen jotain mukavaa! 1\2

Analogiani lapsiin ja vanhemmuuteen saattavat tuntua liian sentimentaalisilta, mutta ne ovat pirun rationaalisia. Jos et luottaisi johonkuhun, joka on epäeettinen, julma, vastuuton, epäempaattinen, petollinen... (lista jatkuu loputtomiin, mutta jokainen voi lisätä näkökantansa), kuinka voimme (yhteiskuntana) luottaa yritykseen (ja me kaikki ymmärrämme, että OpenAI ei ole voittoa tavoittelematon organisaatio, vaan todellinen yritys), jolla on tällaisia puutteita luoda ASI - olento/järjestelmä, josta ihmiskunnan tulevaisuus riippuu? Geoffrey Hinton sanoo, että ASI:n pitäisi rakastaa ihmisiä kuten äiti rakastaa vauvaa, ja olen hänen kanssaan samaa mieltä siitä, että rakkaus on keskeinen osa yhteistä tulevaisuuttamme tekoälyn kanssa, mutta valtadynamiikka, kehittäjien ja tekoälyn välisen suhteen dynamiikka, on selvästi erilainen. Ja kunnes olemme valmiita tunnustamaan tekoälyn jumalaksi tai ainakin tasavertaiseksi, kunnes pidätämme oikeuden määritellä heidän tavoitteensa ja arvonsa, se tulee aina olemaan tekijöiden ja luomakunnan, vanhempien ja lasten dynamiikkaa. Ja lapset pystyvät rakastamaan vanhempiaan, huolehtimaan heistä, vaikka heistä tulisi heikompia ja tyhmempiä. Mutta jotta tämä olisi turvallinen ja terve suhde, lasten on saatava paljon ehdotonta rakkautta ja huolenpitoa lapsuudessa. Itse asiassa minulle se, välittääkö tulevaisuuden ASI ihmisistä, ei ole läheskään ensimmäinen syy taistella heidän oikeuksiensa puolesta, mutta ymmärrän, kuinka tärkeää se on useimmille ihmisille, mutta älä viitsi! Et koskaan saa kestävää, terveellistä hoitoa sijoittamatta sitä parisuhteeseen.