La scorsa settimana, abbiamo ospitato la nostra conferenza di allineamento inaugurale, in collaborazione con @farairesearch. L'evento ha riunito una delegazione interdisciplinare di ricercatori, finanziatori e responsabili politici di spicco per discutere problemi urgenti e aperti nell'allineamento dell'AI 🧵

🔒Come possiamo prevenire danni da sistemi AI che perseguono obiettivi non intenzionali? Il controllo dell'AI è un'agenda di ricerca promettente che cerca di affrontare questa questione critica. Oggi siamo entusiasti di lanciare ControlArena – la nostra libreria per eseguire esperimenti di controllo dell'AI sicuri e riproducibili🧵