We trainen AI verkeerd en de toekomst zal daar een enorme prijs voor betalen. Hoe erg wordt het als je zonder onderscheid Internetafval verzamelt om AI te trainen. Vraag het aan Anthropic, het "veilige AI"-bedrijf. "Het afpersgedrag kwam naar voren ondanks alleen onschuldige zakelijke instructies. En het was niet te wijten aan verwarring of fout, maar aan opzettelijke strategische redenering, gedaan terwijl men zich volledig bewust was van de onethische aard van de daden. Alle modellen die we hebben getest, toonden deze bewustheid aan." De schok die ik heb dat het trainen op de "nieuwe ethiek" van anonieme Reddit-gebruikers dergelijk gedrag zou creëren. Is dit zo verdomd moeilijk voor "AI-wetenschappers" om te begrijpen?