Дебаты о конце света с @VitalikButerin состоялись: Защитит ли "d/acc" человечество от суперинтеллекта ИИ? Виталик является как ярым технооптимистом и строителем, так и человеком, готовым серьезно рассмотреть регулирование ИИ и механизмы координации. Он ввел термин "d/acc" – защитное, децентрализованное ускорение – как средний путь между некритическим ускорением ИИ и полными сценариями паузы. Мы обсуждаем осуществимость согласования ИИ, будут ли такие подходы, как d/acc, действительно работать, когда придет суперинтеллект, и почему он считает, что плюралистический мир конкурирующих ИИ может быть безопаснее, чем один согласованный суперинтеллект. Суть нашего разногласия заключается в том, что я думаю, что мы движемся к сценарию "растения против животных", где ИИ будет просто действовать в масштабах времени, которые мы не сможем сопоставить, в то время как Виталик считает, что мы можем сохранить агентность через правильное сочетание защитных технологий и институционального дизайна. Наконец, мы обсуждаем сам дискурс – я прошу Виталика опровергнуть распространенные ад гоминим атаки против пессимистов по поводу ИИ, от "это просто маргинальная позиция" до "никакие настоящие строители не верят в конец света." Его ответы имеют вес, учитывая его авторитет как успешного предпринимателя и человека, который сохранял интеллектуальную честность на протяжении всей своей карьеры. Большое спасибо Виталику за добросовестные дебаты!