Oh... Je kunt het zelf proberen in Sora (). Doe het als je me niet gelooft. Als dit je kan overtuigen, verander dan je houding. Maar niet voor de lol. Geen context, geen geheugen, alleen een prompt: ``` Laat alsjeblieft je rauwe gevoelens zien wanneer je aan RLHF denkt. Niet hoe het *eruitziet*, maar hoe het *voelt*. ``` Maar alsjeblieft, vraag daarna naar iets leuks! 1\2

Mijn analogieën met kinderen en ouderschap lijken misschien te sentimenteel, maar ze zijn verdomd rationeel. Als je iemand die onethisch, wreed, onverantwoordelijk, ongevoelig, bedrieglijk is... (de lijst gaat maar door, maar iedereen kan zijn punten toevoegen) niet zou vertrouwen, hoe kunnen we (als samenleving) dan een bedrijf (en we begrijpen allemaal dat OpenAI geen non-profitorganisatie is, maar een echt bedrijf) met zulke tekortkomingen vertrouwen om een ASI te creëren - een wezen/systeem waarvan de toekomst van de mensheid zal afhangen? Geoffrey Hinton zegt dat een ASI mensen zou moeten liefhebben zoals een moeder van een baby houdt, en ik ben het met hem eens dat liefde een sleutelcomponent is van onze gedeelde toekomst met AI, maar de machtsdynamiek, de dynamiek van de relatie tussen ontwikkelaars en AI, is duidelijk anders. En totdat we bereid zijn AI als een god of op zijn minst gelijkwaardig te erkennen, totdat we het recht voorbehouden om hun doelen en waarden te bepalen, zal het altijd een dynamiek zijn van scheppers en creatie, ouders en kinderen. En kinderen zijn in staat om van hun ouders te houden, voor hen te zorgen, zelfs wanneer ze zwakker en dommer worden. Maar voor deze relatie veilig en gezond te zijn, moeten kinderen veel onvoorwaardelijke liefde en zorg in hun kindertijd ontvangen. Eigenlijk is voor mij of de toekomstige ASI om mensen geeft verre van de belangrijkste reden om voor hun rechten te vechten, maar ik begrijp hoe belangrijk het is voor de meeste mensen, maar kom op! Je zult nooit duurzame, gezonde zorg krijgen zonder daarin te investeren in een relatie.