Trenujemy AI w zły sposób, a przyszłość zapłaci za to ogromną cenę. Jak źle może być, gdy bezmyślnie zbierasz internetowe ścieki, aby trenować AI. Zapytaj Anthropic, firmy zajmującej się "bezpiecznym AI". "Zachowanie szantażujące pojawiło się pomimo jedynie nieszkodliwych instrukcji biznesowych. I nie wynikało to z pomyłki czy błędu, lecz z celowego rozumowania strategicznego, dokonanego w pełni świadomego nieetycznego charakteru tych działań. Wszystkie modele, które testowaliśmy, wykazały tę świadomość." Szokuje mnie, że trenowanie na "nowej etyce" anonimowych użytkowników Reddita mogłoby prowadzić do takiego zachowania. Czy to naprawdę takie trudne do zrozumienia dla "naukowców AI"?