Je suis en train de parcourir une copie précoce du nouveau livre de @ESYudkowsky et Nate Soares. Et voici un lien Plus de réflexions/contexte ci-dessous :

Mon écrit pour leur livre : "Les humains ont de la chance d'avoir Nate Soares et Eliezer Yudkowsky parce qu'ils savent vraiment écrire. En effet, vous ressentirez de vraies émotions en lisant ce livre. Nous vivons actuellement la dernière période de l'histoire où nous sommes l'espèce dominante. Nous avons une brève fenêtre de temps pour prendre des décisions concernant notre avenir à la lumière de ce fait. Parfois, je me laisse distraire et j'oublie cette réalité, jusqu'à ce que je tombe sur le travail de ces personnes et que je me rappelle que je suis un imbécile de consacrer ma vie à autre chose que cette question. C'est à la fois le premier plan de la philosophie et de la théorie politique. Je ne dis pas cela à la légère."

Comme beaucoup d'entre vous peuvent le dire, je suis un optimiste profond en matière d'IA. J'ai déménagé à San Francisco dès que l'IA a commencé à vraiment émerger, et ce n'est pas par hasard, car c'est ma passion de toute une vie. Et je suis enthousiaste quant aux implications pour la médecine, la physique, la lutte contre la corruption, l'abondance - vous l'appelez. Croyez-moi, ma passion pour ce sujet est de longue date et provient d'un lieu d'amour, d'aventure, de nouvelles idées, d'idées transcendantales inimaginables et de bien-être sociétal.

Je pense que je confonds tout le monde avec ce qui semble être mon allégeance conflictuelle aux deux côtés des mouvements d'accélérationnistes doomers et tout ce qui se trouve entre les deux. Mais ce que je cherche vraiment, ce n'est pas seulement une discussion plus nuancée où nous cessons de rejeter les gens pour une idée folle ou deux, car naviguer sur la fine ligne entre le génie et la folie est presque un prérequis pour parvenir à une compréhension profonde des implications complètes de l'IA ou de quoi que ce soit ressemblant à une compréhension du véritable plateau de jeu.

Tout ce que je peux dire avec certitude, c'est que j'ai soit eu des conversations profondes et directes avec beaucoup des personnes influentes dans l'IA, soit essayé de rester au courant de leurs prédictions. Je remarque aussi une incongruence entre ce qui est dit en privé et en public. Une profonde sagesse que je trouve chez ces co-auteurs est leur engagement face aux problèmes liés à cette incertitude et ce manque d'accord. Je ne pense pas que cela signifie que nous devons être des pessimistes ni des accélérationnistes.