Працюю над раннім примірником нової книги @ESYudkowsky та Нейта Соаресів. А ось і посилання Більше думок / контекст нижче:

Мій запис для їхньої книги: "Людям пощастило мати Нейта Соареса та Еліезера Юдковського, тому що вони дійсно вміють писати. Як і раніше, ви відчуєте справжні емоції, прочитавши цю книгу. В даний час ми живемо в останній період історії, коли ми є домінуючим видом. У нас є короткий проміжок часу, щоб прийняти рішення щодо нашого майбутнього у світлі цього факту. Іноді я відволікаюся і забуваю про цю реальність, поки не наштовхуюся на роботу цих людей і не нагадую, що я дурень, щоб присвячувати своє життя чомусь, крім цього питання. Це сучасний авангард як філософії, так і політичної теорії. Я не кажу це легковажно".

Як багато хто з вас може сказати, Я глибокий оптиміст зі штучним інтелектом. Я перейшов на sf другий штучний інтелект почав ралі pop не просто так, адже це моя пристрасть на все життя. І я в захваті від наслідків для медицини, фізики, боротьби з корупцією, достатку – що завгодно. Повірте, моя пристрасть до цієї теми триває все життя і випливає з місця кохання, пригод, нових умів, трансцендентних неймовірних ідей та суспільного блага

Гадаю, я збиваю всіх з пантелику тим, що здається моєю суперечливою прихильністю до обох сторін акселераційних рухів приреченості та всього, що між ними. Але те, чого я прагну, — це не просто більш тонка дискусія, де ми перестаємо списувати людей з рахунків за божевільну ідею чи дві, тому що подолання тонкої межі між геніальністю та божевіллям є майже передумовою для глибокого розуміння всіх наслідків штучного інтелекту чи будь-чого, що нагадує розуміння справжньої ігрової дошки.

Все, що я можу сказати з упевненістю - це те, що я або мав прямі глибокі розмови з багатьма провідними людьми в галузі штучного інтелекту, або намагався залишатися в курсі їхніх прогнозів. Я також помічаю невідповідність тому, що говориться в приватному і публічному порядку. Глибока мудрість, яку я знаходжу у цих співавторів, полягає в їхній прихильності до проблем цієї невизначеності та відсутності згоди. Я не думаю, що це означає, що ми повинні бути приреченими чи акселераторами