Hvis du respekterer @VitalikButerin og Vitalik respekterer @ESYudkowsky deretter av den transitive egenskapen ...

Vitaliks uke ✅ Gå på undergangsdebatter ✅ Bli med i tres kommaklubb

Doom-debatt med @VitalikButerin har falt: Vil "d/acc" beskytte menneskeheten mot superintelligent AI? Vitalik er både en hardcore teknooptimist og bygger, og en som er villig til å seriøst vurdere AI-regulering og koordineringsmekanismer. Han skapte begrepet "d/acc'" – defensiv, desentralisert akselerasjon – som en middelvei mellom ukritisk AI-akselerasjon og totale pausescenarier. Vi diskuterer smidigheten til AI-justering, om tilnærminger som d/acc faktisk vil fungere når superintelligens kommer, og hvorfor han tror en pluralistisk verden av konkurrerende AI-er kan være tryggere enn en enkelt justert superintelligens. Kjernen i vår uenighet er at jeg tror vi er på vei mot et «planter mot dyr»-scenario der AI ganske enkelt vil operere på tidsskalaer vi ikke kan matche, mens Vitalik mener vi kan opprettholde handlefrihet gjennom den rette kombinasjonen av defensive teknologier og institusjonell design. Til slutt tar vi for oss selve diskursen – jeg ber Vitalik om å avkrefte de vanlige ad hominem-angrepene mot AI-dommedagsprofeter, fra «det er bare en utkantposisjon» til «ingen virkelige byggherrer tror på undergang». Svarene hans veier tungt gitt hans troverdighet som både en vellykket gründer og en som har opprettholdt intellektuell ærlighet gjennom hele karrieren. Stor takk til Vitalik for en debatt i god tro!

Det perfekte agnet @paulg finnes ikke ...

Antropisk å være verdt 170 milliarder dollar gjør en klovn ut av alle som fortsatt sier at ingen med ekte AI-byggende ferdigheter bekymrer seg for utryddelsesrisiko.

Tror du fortsatt at den menneskelige hjernens effektivitet som en "generell intelligens" bare kommer fra å samle en mangfoldig samling av kulturelt overførte ferdigheter @robinhanson

Jeg føler at dette perspektivet gikk tapt? GPT-4 til GPT-5 *var* et skritt på størrelse med GPT-3 til GPT-4, og tok bare to år i stedet for tre.

I morgen

Tre spørsmål til @paulg og @amasad: 1. Hvis Anas Al-Sharif var et Hamas-medlem, var det bra å eliminere ham? 2. Er Israels påstand om at han var medlem av Hamas sannsynligvis sann? 3. Hvis #1 og #2 begge er sanne, ville det være passende for deg å korrigere sidens reaksjoner?

Ikke en eneste mediekanal har nevnt de rikelige bevisene fra åpen kildekode, inkludert noen som jeg har skissert nedenfor, som viser at Anas al-Sharif er noe annet enn en journalist. Avbildet med Hamas-ledere? Vil du overøse morderne og rappene fra 7. Nei, ikke relevant.