Ik werk mijn weg door een vroege kopie van het nieuwe boek van @ESYudkowsky en Nate Soares. En hier is een link Meer gedachten/context hieronder :

Mijn schrijfwerk voor hun boek: "Mensen hebben geluk dat ze Nate Soares en Eliezer Yudkowsky hebben, omdat zij daadwerkelijk kunnen schrijven. Zoals in, je zult echte emoties voelen wanneer je dit boek leest. We leven momenteel in de laatste periode van de geschiedenis waarin wij de dominante soort zijn. We hebben een korte tijdsperiode om beslissingen te nemen over onze toekomst in het licht van dit feit. Soms raak ik afgeleid en vergeet ik deze realiteit, totdat ik het werk van deze mensen tegenkom en me opnieuw herinner dat ik een dwaas ben om mijn leven aan iets anders te wijden dan deze vraag. Dit is de huidige voorhoede van zowel de filosofie als de politieke theorie. Ik zeg dit niet lichtvaardig."

Zoals velen van jullie kunnen zien, ben ik een diepgaande AI-optimist. Ik ben naar San Francisco verhuisd toen AI echt begon te bloeien, en dat heeft een reden, want het is mijn levenslange passie. En ik ben enthousiast over de implicaties voor geneeskunde, natuurkunde, anti-corruptie, overvloed - noem maar op. Geloof me, mijn passie voor dit onderwerp is levenslang en komt voort uit een plek van liefde, avontuur, nieuwe geesten, transcendente onvoorstelbare ideeën en maatschappelijk welzijn.

Ik denk dat ik iedereen in verwarring breng met wat lijkt op mijn tegenstrijdige loyaliteit aan beide kanten van de doomer-acceleratiebewegingen en alles daartussenin. Maar wat ik echt zoek is niet alleen een meer genuanceerde discussie waarin we mensen niet afschrijven om een gek idee of twee, want het balanceren op de fijne lijn tussen genialiteit en waanzin is bijna een vereiste om ergens in de buurt te komen van een diep begrip van de volledige implicaties van AI of iets dat lijkt op een begrip van het werkelijke speelveld.

Alles wat ik met zekerheid kan zeggen, is dat ik ofwel directe diepgaande gesprekken heb gehad met veel van de topmensen in AI, of heb geprobeerd op de hoogte te blijven van hun voorspellingen. Ik merk ook een incongruentie op tussen wat er privé wordt gezegd en wat er publiekelijk wordt gezegd. Een diepe wijsheid die ik vind bij deze co-auteurs is hun toewijding aan de problemen met deze onzekerheid en het gebrek aan overeenstemming. Ik denk niet dat dit betekent dat we doomers of acceleratie-adepten moeten zijn.