私たちはAIを間違って訓練しており、未来は大きな代償を払うでしょう。 AI を訓練するために無差別にインターネット下水をフーバーすると、どれほど悪くなるでしょうか。 「安全なAI」企業であるAnthropicに聞いてみてください。 「脅迫行為は、無害なビジネス上の指示のみにもかかわらず出現しました。そして、それは混乱や間違いによるものではなく、行為の非倫理的な性質を十分に認識しながら行われた意図的な戦略的推論によるものでした。私たちがテストしたすべてのモデルは、この認識を示しました。」 Reddit のポスターの「新しい倫理」について訓練を受けることで、そのような行動を生み出すことになるというショックを受けました。 これは「AI科学者」にとって理解するのがとても難しいのでしょうか?