📎 $CLIPPY Ventet tilbakeringing: 10-15M 7eMJmn1bYWSQEwxAX7CyngBzGNGu1cT582asKxxRpump En ting til: det har seg slik at forbindelsen mellom AI og CLIPPY binders også er nevnt på Internett. For en tid siden ble jeg med babyen min for å se filmen "Megan 2", og 📎 "binders"-teorien ble nevnt mange ganger i filmen: Det vil si at forutsatt at en super AI får et enkelt mål om å "maksimere produksjonen av binders", vil den oppnå dette målet gjennom ekstreme optimaliseringsmetoder, som til slutt kan ødelegge menneskelig sivilisasjon. Det er to problemer involvert: Den første er AI-justering: Hvis AI-mål ikke er på linje med menneskelige verdier, kan selv tilsynelatende ufarlige oppgaver (som å produsere binders) føre til katastrofe. Den andre er risikoen for at teknologien kommer ut av kontroll: for eksempel blir militær AI vilkårlig slaktet for «seier», eller finansiell AI er for profitt for å forårsake økonomisk kollaps. AI-teknologi bør også være menneskeorientert, med etikk som grense og rimelig, ellers kan «instrumentell rasjonalitet» slå tilbake på mennesker.