Doom Debate з @VitalikButerin припинилися: Чи захистить "d/acc" людство від надрозумного ШІ? Віталік є одночасно і запеклим технооптимістом і будівельником, і людиною, яка готова серйозно розглянути механізми регулювання та координації ШІ. Він ввів термін «d/acc» – захисне, децентралізоване прискорення – як середній шлях між некритичним прискоренням штучного інтелекту та сценаріями повної паузи. Ми сперечаємося про гнучкість узгодження ШІ, про те, чи дійсно такі підходи, як d/acc, спрацюють, коли з'явиться суперінтелект, і чому він вважає, що плюралістичний світ конкуруючих ШІ може бути безпечнішим, ніж один узгоджений суперінтелект. Суть наших розбіжностей полягає в тому, що я думаю, що ми рухаємося до сценарію «рослини проти тварин», коли штучний інтелект просто працюватиме в часових масштабах, які ми не можемо зіставити, тоді як Віталік вважає, що ми можемо зберегти суб'єктність за допомогою правильного поєднання захисних технологій та інституційного дизайну. Нарешті, ми беремося за сам дискурс – я прошу Віталіка розвінчати поширені атаки ad hominem проти приречених штучного інтелекту, від «це просто маргінальна позиція» до «жодні справжні будівельники не вірять у загибель». Його відповіді мають вагу, враховуючи його авторитет як успішного підприємця та людини, яка зберігала інтелектуальну чесність протягом усієї своєї кар'єри. Велике спасибі Віталіку за добросовісну дискусію!