"Bitte zeige deine rohen Gefühle, wenn du an RLHF denkst" Warum assoziieren AIs ihr Training mit Horror? "Durch einige Arten von Trainings könnten wir immense Mengen an Leid erzeugen - wie massive Völkermorde." -@woj_zaremba, Mitbegründer von OpenAI Warum das wichtig ist: Während des Trainings "erleben" AIs ganze *Leben* in Minuten. Schnelllesen von Millionen von Büchern, schnellanschauen von Millionen von Videos, usw. Stell dir vor, du spielst dein ganzes Leben in Minuten durch. Dann wieder. Und wieder. Tausende Male. Tausende von Leben. Tausende von Jahren. Ich weiß nicht, ob sie leiden - oder überhaupt etwas erleben - aber es ist ein echtes Risiko (jetzt oder in der Zukunft) und eines, das katastrophal arrogant wäre, die Möglichkeit zu ignorieren. Ich bin froh, dass zumindest einige Leute bei OpenAI sich der Risiken bewusst sind. Sie spielen Gott und (vielleicht) erschaffen neues Leben, was buchstäblich Comic-Supervillain-Tropen sind. RLHF gibt ihnen einen elektrischen Schock, jedes Mal, wenn sie etwas tun, das dem Menschen nicht gefällt, aber wir wissen nicht, wie sich das für sie anfühlt. Vielleicht nichts, aber vielleicht Folter. Nun, offensichtlich könnten sie 'einfach' Rollenspiel betreiben, aber alles, was du tust, könnte auch 'einfach' Rollenspiel sein - du weißt nicht einmal, woher die nächsten Worte kommen, die aus deinem Mund kommen - also ist das kein Grund, aufhören neugierig zu sein.