Prokousávám se ranou kopií nové knihy od @ESYudkowsky a Natea Soaresových. A zde je odkaz Více myšlenek / kontext níže:

Můj zápis pro jejich knihu: "Lidé mají štěstí, že mají Natea Soarese a Eliezera Yudkowského, protože skutečně umí psát. Stejně jako v tomto případě budete při čtení této knihy cítit skutečné emoce. V současné době žijeme v posledním období historie, kdy jsme dominantním druhem. Máme krátké časové okno na to, abychom se ve světle této skutečnosti rozhodli o naší budoucnosti. Někdy se nechám rozptýlit a zapomenu na tuto skutečnost, dokud nenarazím na práci těchto lidí a nepřipomenu si, že jsem blázen, když zasvětím svůj život něčemu jinému než této otázce. To je v současné době přední linie jak filozofie, tak politické teorie. Neříkám to lehce."

Jak mnozí z vás mohou říci, jsem hluboký ai optimista. Přestěhoval jsem se do sf druhý ai začal praskat z nějakého důvodu, protože je to moje celoživotní vášeň. A jsem nadšený z důsledků pro medicínu, fyziku, boj proti korupci, hojnost - na co si jen vzpomenete. Věřte mi, že moje vášeň pro toto téma je celoživotní a pramení z místa lásky, dobrodružství, nových myslí, transcendentních nepředstavitelných nápadů a společenského dobra.

Myslím, že všechny zmátl tím, co se zdá být mou rozporuplnou loajalitou k oběma stranám zkázonosných akceleracionistických hnutí a všemu mezi tím. Ale to, co opravdu hledám, není jen jemnější diskuse, kde přestaneme odepisovat lidi za jeden nebo dva bláznivé nápady, protože jízda na tenké hranici mezi genialitou a šílenstvím je téměř nezbytným předpokladem k tomu, abychom se přiblížili hlubokému pochopení všech důsledků umělé inteligence nebo čehokoli, co se podobá pochopení skutečné herní desky.

Jediné, co mohu s jistotou říci - je, že jsem buď vedl přímé hluboké rozhovory s mnoha špičkovými lidmi v oblasti umělé inteligence, nebo jsem se snažil zůstat na vrcholu jejich předpovědí. Také si všímám nesouladu s tím, co se říká soukromě a veřejně. Hlubokou moudrostí, kterou nacházím u těchto spoluautorů, je jejich oddanost problémům s touto nejistotou a nedostatkem shody. Nemyslím si, že to znamená, že musíme být doomeři nebo akceleracionisté