📎 $CLIPPY Väntade återuppringning: 10-15M 7eMJmn1bYWSQEwxAX7CyngBzGNGu1cT582asKxxRpump En sak till: det råkar vara så att kopplingen mellan AI och CLIPPY gem också nämns på Internet. För en tid sedan följde jag med min bebis för att titta på filmen "Megan 2", och 📎 teorin om "gem" nämndes många gånger i filmen: Det vill säga, om vi antar att en super-AI får ett enda mål att "maximera produktionen av gem", kommer den att uppnå detta mål genom extrema optimeringsmetoder, vilket så småningom kan förstöra den mänskliga civilisationen. Det finns två frågor att ta ställning till: Den första är AI Alignment: Om AI-målen inte är i linje med mänskliga värderingar kan även till synes harmlösa uppgifter (som att producera gem) leda till katastrof. Den andra är risken för att tekniken blir okontrollerbar: till exempel slaktas militär AI urskillningslöst för "seger", eller finansiell AI är för vinst för att orsaka ekonomisk kollaps. AI-tekniken bör också vara människoorienterad, med etik som gräns och rimlig, annars kan "instrumentell rationalitet" slå tillbaka på människor.