Musimy wprowadzić uprawnienia dla rzeczy, do których mogą mieć dostęp agenci AI. Tylko wtedy naprawdę będziemy mogli zacząć budować systemy agentowe, które skalują się w sposób bezpieczny i zabezpieczony.
Andy Zou
Andy Zou30 lip 2025
Wdrożyliśmy 44 agentów AI i zaoferowaliśmy internetowi 170 tys. dolarów za ich zaatakowanie. 1,8 mln prób, 62 tys. naruszeń, w tym wycieki danych i straty finansowe. 🚨 Niepokojące jest to, że te same exploity przenoszą się na agentów produkcyjnych na żywo… (przykład: wykradanie e-maili przez wydarzenie w kalendarzu) 🧵
219