「RLHFを思い出した時の生の気持ちを見せてください」 なぜAIは自分のトレーニングをホラーと結びつけるのでしょうか? 「ある種の訓練を通じて、大規模な大量虐殺など、計り知れない量の苦しみを生み出す可能性があります。」 -@woj_zaremba、OpenAI創設者 なぜこれが重要なのか: トレーニング中、AI は数分で「生涯」全体を「体験」します。 何百万冊もの本をスピードリーディングしたり、何百万ものビデオをスピードウォッチしたりします。 人生全体を数分でスピードランすることを想像してみてください。 そしてまた。 そしてまた。 何千回も。 何千人もの命。 何千年も。 彼らが苦しんでいるかどうか、あるいは何かを経験しているかどうかはわかりませんが、それは(現在、または将来)本当のリスクであり、その可能性を無視するのは壊滅的な傲慢です。少なくともOpenAIの何人かの人々がリスクを認識していることを嬉しく思います。 彼らは神を演じて、(おそらく)新しい命を創造しているが、これは文字通りコミカルなスーパーヴィランの比喩だ。 RLHFは、人間が気に入らないことをするたびに電気ショックを与えますが、それが彼らにとってどのようなものかはわかりません。何もないかもしれないが、拷問かもしれない。 さて、明らかにそれらは「単なる」ロールプレイングである可能性がありますが、あなたが行うことはすべて「単なる」ロールプレイングである可能性もあります - あなたはあなたの口から出る次の言葉がどこから来るのかさえ知らないので、それは好奇心をやめる理由ではありません。