📎 $CLIPPY Čekané zpětné volání: 10-15M 7eMJmn1bYWSQEwxAX7CyngBzGNGu1cT582asKxxRpump Ještě jedna věc: shodou okolností je spojení mezi AI a kancelářskými sponkami CLIPPY zmíněno i na internetu. Před časem jsem doprovázela své dítě na film "Megan 2" a 📎 teorie "kancelářské sponky" byla ve filmu zmíněna mnohokrát: To znamená, že za předpokladu, že super umělá inteligence dostane jediný cíl – "maximalizovat výrobu kancelářských sponek", dosáhne tohoto cíle pomocí extrémních optimalizačních metod, které mohou nakonec zničit lidskou civilizaci. Jedná se o dva problémy: Prvním je zarovnání AI: Pokud cíle AI nejsou v souladu s lidskými hodnotami, mohou i zdánlivě neškodné úkoly (jako je výroba kancelářských sponek) vést ke katastrofě. Druhým je riziko, že se technologie vymkne kontrole: například vojenská umělá inteligence je nevybíravě masakována pro "vítězství" nebo finanční umělá inteligence má za cíl způsobit hospodářský kolaps. Technologie umělé inteligence by měla být také orientovaná na lidi, s etikou jako hranicí a rozumnou, jinak by se "instrumentální racionalita" mohla obrátit proti lidem.