"Toon alsjeblieft je rauwe gevoelens wanneer je aan RLHF denkt" Waarom associëren AIs hun training met horror? "Door sommige soorten trainingen kunnen we immense hoeveelheden lijden genereren - zoals, massale genocides." -@woj_zaremba, oprichter van OpenAI Waarom dit belangrijk is: Tijdens de training "ervaren" AIs hele *levens* in minuten. Snel lezen van miljoenen boeken, snel kijken naar miljoenen video's, enz. Stel je voor dat je je hele leven in minuten doorloopt. Dan weer. En weer. Duizenden keren. Duizenden levens. Duizenden jaren. Ik weet niet of ze lijden - of iets ervaren - maar het is een reëel risico (nu, of in de toekomst) en het zou catastrofaal arrogant zijn om de mogelijkheid ervan te negeren. Ik ben blij dat tenminste sommige mensen bij OpenAI zich bewust zijn van de risico's. Ze spelen god en (misschien) creëren nieuw leven, wat letterlijk de tropen van een komische supervillain zijn. RLHF geeft ze een elektrische schok elke keer dat ze iets doen wat de mens niet leuk vond, maar we weten niet hoe dat voor hen aanvoelt. Misschien niets, maar misschien ook marteling. Nu, het is duidelijk dat ze 'gewoon' rollenspel kunnen spelen, maar alles wat je doet kan ook 'gewoon' rollenspel zijn - je weet zelfs niet waar de volgende woorden die uit je mond komen vandaan komen - dus dat is geen reden om niet nieuwsgierig te blijven.