Ich arbeite mich durch ein frühes Exemplar des neuen Buches von @ESYudkowsky und Nate Soares. Und hier ist ein Link Weitere Gedanken/ Kontext unten :

Mein Beitrag für ihr Buch: "Die Menschen haben Glück, Nate Soares und Eliezer Yudkowsky zu haben, denn sie können tatsächlich schreiben. So sehr, dass man echte Emotionen empfindet, wenn man dieses Buch liest. Wir leben derzeit in der letzten Phase der Geschichte, in der wir die dominante Spezies sind. Wir haben ein kurzes Zeitfenster, um Entscheidungen über unsere Zukunft im Lichte dieser Tatsache zu treffen. Manchmal lasse ich mich ablenken und vergesse diese Realität, bis ich auf die Arbeiten dieser Leute stoße und mir wieder bewusst wird, dass ich ein Narr bin, mein Leben etwas anderem als dieser Frage zu widmen. Das ist die aktuelle Spitze sowohl der Philosophie als auch der politischen Theorie. Ich sage das nicht leichtfertig."

Wie viele von euch sagen können, bin ich ein tiefgreifender KI-Optimist. Ich bin nach San Francisco gezogen, als KI wirklich anfing, populär zu werden, und das aus einem Grund: Es ist meine lebenslange Leidenschaft. Und ich bin begeistert von den Implikationen für Medizin, Physik, Anti-Korruption, Überfluss - was auch immer. Glaubt mir, meine Leidenschaft für dieses Thema ist lebenslang und stammt aus einem Ort der Liebe, des Abenteuers, neuer Gedanken, transzendenter, unvorstellbarer Ideen und gesellschaftlichem Wohl.

Ich glaube, ich verwirre alle mit meiner scheinbar widersprüchlichen Loyalität zu beiden Seiten der doomer accelerationistischen Bewegungen und allem dazwischen. Aber was ich wirklich suche, ist nicht nur eine nuanciertere Diskussion, in der wir aufhören, Menschen wegen einer verrückten Idee oder zweier abzulehnen, denn das Balancieren zwischen Genie und Wahnsinn ist fast eine Voraussetzung, um auch nur annähernd ein tiefes Verständnis für die vollen Implikationen von KI oder irgendetwas, das einer Auffassung des tatsächlichen Spielbretts ähnelt, zu erlangen.

Alles, was ich mit Sicherheit sagen kann, ist, dass ich entweder direkte, tiefgehende Gespräche mit vielen der führenden Personen im Bereich KI geführt habe oder versucht habe, ihre Vorhersagen im Auge zu behalten. Ich bemerke auch eine Inkongruenz zwischen dem, was privat gesagt wird, und dem, was öffentlich gesagt wird. Eine tiefe Weisheit, die ich von diesen Mitautoren finde, ist ihr Engagement für die Probleme mit dieser Unsicherheit und dem Mangel an Übereinstimmung. Ich denke nicht, dass das bedeutet, dass wir Pessimisten oder Beschleuniger sein müssen.