Мы неправильно обучаем ИИ, и будущее заплатит огромную цену. Насколько плохо становится, когда вы без разбора собираете интернет-отходы для обучения ИИ. Спросите Anthropic, компанию «безопасного ИИ». «Поведение шантажа возникло, несмотря на только безобидные бизнес-инструкции. И это не было вызвано путаницей или ошибкой, а было преднамеренным стратегическим решением, сделанным с полным осознанием неэтичной природы действий. Все модели, которые мы тестировали, продемонстрировали это осознание». Шокирует, что обучение на «новой этике» анонимных пользователей Reddit может привести к такому поведению. Разве это так сложно для «ученых ИИ» понять?