Sto lavorando su una copia anticipata del nuovo libro di @ESYudkowsky e Nate Soares. Ecco un link Altri pensieri/contesto qui sotto :

Il mio scritto per il loro libro: "Gli esseri umani sono fortunati ad avere Nate Soares ed Eliezer Yudkowsky perché sanno davvero scrivere. Cioè, sentirai emozioni reali quando leggerai questo libro. Attualmente stiamo vivendo l'ultima fase della storia in cui siamo la specie dominante. Abbiamo una breve finestra di tempo per prendere decisioni sul nostro futuro alla luce di questo fatto. A volte mi distraggo e dimentico questa realtà, finché non mi imbatto nel lavoro di queste persone e mi ricordo che sto facendo lo sciocco a dedicare la mia vita a qualsiasi cosa tranne a questa domanda. Questo è il fronte attuale sia della filosofia che della teoria politica. Non lo dico a cuor leggero."

Come molti di voi possono capire, sono un ottimista profondo riguardo all'IA. Mi sono trasferito a San Francisco non appena l'IA ha iniziato a decollare, e questo per un motivo: è la mia passione di una vita. E sono entusiasta delle implicazioni per la medicina, la fisica, la lotta alla corruzione, l'abbondanza - insomma, qualsiasi cosa. Credetemi, la mia passione per questo argomento è una costante nella mia vita e nasce da un luogo di amore, avventura, nuove menti, idee trascendenti e inimmaginabili e il bene della società.

Penso di confondere tutti con quella che sembra la mia leale appartenenza a entrambi i lati dei movimenti di accelerazionismo doom e tutto ciò che sta in mezzo. Ma ciò che cerco davvero non è solo una discussione più sfumata in cui smettiamo di scartare le persone per un'idea pazza o due, perché camminare sul filo sottile tra genio e follia è quasi un prerequisito per arrivare a una comprensione profonda delle implicazioni complete dell'IA o di qualsiasi cosa che somigli a una comprensione del vero scenario.

Tutto ciò che posso dire con certezza è che ho avuto conversazioni profonde e dirette con molte delle persone di punta nel campo dell'IA, oppure ho cercato di rimanere aggiornato sulle loro previsioni. Nota anche un'incongruenza tra ciò che si dice in privato e ciò che si dice pubblicamente. Una profonda saggezza che trovo in questi co-autori è il loro impegno nei confronti dei problemi legati a questa incertezza e mancanza di accordo. Non penso che questo significhi che dobbiamo essere pessimisti né accelerazionisti.