أعمل في طريقي من خلال نسخة مبكرة من الكتاب الجديد من تأليف @ESYudkowsky ونيت سواريس. وهنا رابط المزيد من الأفكار / السياق أدناه:

كتابتي لكتابهم: "البشر محظوظون لأن لديهم نيت سواريس وإليعازر يودكوفسكي لأنهم يستطيعون الكتابة بالفعل. كما هو الحال في ، ستشعر بمشاعر فعلية عندما تقرأ هذا الكتاب. نحن نعيش حاليا في الفترة الأخيرة من التاريخ حيث نحن الأنواع المهيمنة. لدينا نافذة قصيرة من الوقت لاتخاذ قرارات بشأن مستقبلنا في ضوء هذه الحقيقة. أحيانا أتشتت انتباهي وأنسى هذا الواقع ، حتى أصطدم بعمل هؤلاء الأشخاص وأتذكر أنني أحمق لتكريس حياتي لأي شيء غير هذا السؤال. هذه هي الطليعة الحالية لكل من الفلسفة والنظرية السياسية. أنا لا أقول هذا باستخفاف ".

كما يمكن للكثيرين منكم أن يقولوا إنني متفائل عميق بالذكاء الاصطناعي. انتقلت إلى sf الثاني بدأ الذكاء الاصطناعي في الظهور لسبب ما ، لأنه شغفي الطويل. وأنا متحمس للآثار المترتبة على الطب والفيزياء ومكافحة الفساد والوفرة - سمها ما شئت. صدقوني ، لقد كان شغفي بهذا الموضوع مدى الحياة وينبع من مكان الحب والمغامرة والعقول الجديدة والأفكار المتسامية التي لا يمكن تصورها والخير المجتمعي

أعتقد أنني أربك الجميع بما يبدو ولائي المتضارب لكلا جانبي حركات التسارع وكل شيء بينهما. لكن ما أسعى إليه ليس مجرد مناقشة أكثر دقة حيث نتوقف عن شطب الناس لفكرة مجنونة أو اثنتين لأن ركوب الخط الرفيع بين العبقرية والجنون هو شرط مسبق تقريبا للوصول إلى أي مكان بالقرب من الفهم العميق للآثار الكاملة للذكاء الاصطناعي أو أي شيء يشبه فهم لوحة اللعبة الفعلية.

كل ما يمكنني قوله على وجه اليقين - هو أنني إما أجريت محادثات عميقة مباشرة مع العديد من كبار الأشخاص في الذكاء الاصطناعي ، أو حاولت البقاء على اطلاع على توقعاتهم. ألاحظ أيضا عدم التوافق مع ما يقال بشكل خاص مقابل علني. الحكمة العميقة التي أجدها من هؤلاء المؤلفين المشاركين هي التزامهم بالمشاكل المتعلقة بعدم اليقين وعدم الاتفاق هذا. لا أعتقد أن هذا يعني أنه يجب علينا أن نكون متشائمين ولا متسارعين