Le débat Doom avec @VitalikButerin est sorti : La "d/acc" protégera-t-elle l'humanité de l'IA superintelligente ? Vitalik est à la fois un techno-optimiste acharné et un bâtisseur, et quelqu'un prêt à envisager sérieusement la régulation de l'IA et les mécanismes de coordination. Il a inventé le terme "d/acc" – accélération défensive et décentralisée – comme un chemin intermédiaire entre l'accélération de l'IA sans critique et les scénarios de pause totale. Nous débattons de la faisabilité de l'alignement de l'IA, si des approches comme la d/acc fonctionneraient réellement lorsque la superintelligence arrivera, et pourquoi il pense qu'un monde pluraliste d'IA concurrentes pourrait être plus sûr qu'une seule superintelligence alignée. Le cœur de notre désaccord est que je pense que nous nous dirigeons vers un scénario "plantes contre animaux" où l'IA fonctionnera simplement à des échelles de temps que nous ne pouvons pas égaler, tandis que Vitalik croit que nous pouvons maintenir notre autonomie grâce à la bonne combinaison de technologies défensives et de conception institutionnelle. Enfin, nous abordons le discours lui-même – je demande à Vitalik de démystifier les attaques ad hominem courantes contre les doomers de l'IA, allant de "c'est juste une position marginale" à "aucun vrai bâtisseur ne croit au doom." Ses réponses ont du poids étant donné sa crédibilité en tant qu'entrepreneur à succès et quelqu'un qui a maintenu une honnêteté intellectuelle tout au long de sa carrière. Un grand merci à Vitalik pour ce débat de bonne foi !