Kita perlu menerapkan izin untuk hal-hal yang dapat diakses oleh agen AI. Hanya dengan begitu, kita benar-benar dapat mulai membangun sistem agen yang dapat diskalakan dengan aman dan terjamin.
Andy Zou
Andy Zou30 Jul 2025
Kami mengerahkan 44 agen AI dan menawarkan internet $170K untuk menyerang mereka. 1,8 juta upaya, 62 ribu pelanggaran, termasuk kebocoran data dan kerugian finansial. 🚨 Yang memprihatinkan, eksploitasi yang sama ditransfer ke agen produksi langsung... (contoh: mengeksfiltrasi email melalui acara kalender) 🧵
215