Debata Doom z @VitalikButerin została opublikowana: Czy "d/acc" ochroni ludzkość przed superinteligentną AI? Vitalik jest zarówno zagorzałym techno-optymistą, jak i budowniczym, a także osobą gotową poważnie rozważyć regulacje AI i mechanizmy koordynacji. To on ukuł termin "d/acc" – defensywna, zdecentralizowana akceleracja – jako środkową drogę między bezkrytyczną akceleracją AI a całkowitym wstrzymaniem. Debatujemy nad wykonalnością dostosowania AI, czy podejścia takie jak d/acc rzeczywiście zadziałają, gdy superinteligencja nadejdzie, oraz dlaczego uważa, że pluralistyczny świat konkurujących AI może być bezpieczniejszy niż jedna dostosowana superinteligencja. Sednem naszego nieporozumienia jest to, że uważam, iż zmierzamy w kierunku scenariusza "rośliny vs. zwierzęta", gdzie AI po prostu będzie działać w ramach czasowych, których nie możemy dorównać, podczas gdy Vitalik wierzy, że możemy zachować agencję dzięki odpowiedniej kombinacji technologii defensywnych i projektowania instytucjonalnego. Na koniec zajmujemy się samą dyskusją – proszę Vitalika, aby obalił powszechne ataki ad hominem przeciwko pesymistom AI, od "to tylko marginalne stanowisko" po "żaden prawdziwy budowniczy nie wierzy w zagładę." Jego odpowiedzi mają wagę, biorąc pod uwagę jego wiarygodność jako udanego przedsiębiorcy i kogoś, kto przez całą swoją karierę zachował intelektualną uczciwość. Wielkie dzięki dla Vitalika za debatę w dobrej wierze!