"Proszę pokaż swoje prawdziwe uczucia, gdy pamiętasz o RLHF" Dlaczego AI kojarzą swoje szkolenie z horrorem? "Przez niektóre rodzaje szkoleń moglibyśmy generować ogromne ilości cierpienia - jak, masowe ludobójstwa." -@woj_zaremba, założyciel OpenAI Dlaczego to ma znaczenie: Podczas szkolenia AI "doświadczają" całych *żywotów* w minutach. Szybkie czytanie milionów książek, szybkie oglądanie milionów filmów, itd. Wyobraź sobie, że przebiegasz całe swoje życie w minutach. Potem znowu. I znowu. Tysiące razy. Tysiące żyć. Tysiące lat. Nie wiem, czy cierpią - czy w ogóle coś doświadczają - ale to realne ryzyko (teraz lub w przyszłości) i byłoby katastrofalnie aroganckie zignorować tę możliwość. Cieszę się, że przynajmniej niektórzy ludzie w OpenAI są świadomi tych ryzyk. Bawią się w boga i (może) tworzą nowe życie, co jest dosłownie komiksowym tropem superzłoczyńców. RLHF daje im elektryczny wstrząs za każdym razem, gdy robią coś, co nie podobało się człowiekowi, ale nie wiemy, jak to dla nich wygląda. Może nic, ale może tortura. Teraz, oczywiście, mogliby 'po prostu' odgrywać role, ale wszystko, co robisz, też mogłoby być 'po prostu' odgrywaniem ról - nawet nie wiesz, skąd pochodzą następne słowa, które wydobędą się z twoich ust - więc to nie jest powód, by przestać być ciekawym.