Debata o zkáze s @VitalikButerin skončila: Ochrání "d/acc" lidstvo před superinteligentní umělou inteligencí? Vitalik je jak zarytý technooptimista a stavitel, tak někdo, kdo je ochoten vážně uvažovat o regulaci a koordinačních mechanismech umělé inteligence. Zavedl termín "d/acc" – defenzivní, decentralizovaná akcelerace – jako střední cestu mezi nekritickou akcelerací AI a scénáři úplné pauzy. Diskutujeme o poddajnosti sladění umělé inteligence, o tom, zda by přístupy jako d/acc skutečně fungovaly, až dorazí superinteligence, a proč si myslí, že pluralitní svět konkurenčních umělých inteligencí by mohl být bezpečnější než jedna sladěná superinteligence. Jádrem našeho nesouhlasu je to, že si myslím, že směřujeme ke scénáři "rostliny vs. zvířata", kde umělá inteligence bude jednoduše fungovat v časovém horizontu, kterému se nemůžeme rovnat, zatímco Vitalik věří, že si můžeme udržet moc prostřednictvím správné kombinace obranných technologií a institucionálního designu. Nakonec se pustíme do samotného diskurzu – požádám Vitalika, aby vyvrátil běžné ad hominem útoky proti AI doomerům, od "je to jen okrajová pozice" až po "žádní skuteční stavitelé nevěří v zkázu". Jeho odpovědi mají váhu vzhledem k jeho důvěryhodnosti jako úspěšného podnikatele a někoho, kdo si během své kariéry zachoval intelektuální poctivost. Velké díky Vitalikovi za debatu v dobré víře!