Нам нужно установить разрешения для того, к чему могут получить доступ агенты ИИ. Только тогда мы сможем действительно начать строить агентные системы, которые масштабируются безопасно и надежно.
Andy Zou
Andy Zou30 июл. 2025 г.
Мы развернули 44 ИИ-агента и предложили интернету 170 тысяч долларов, чтобы атаковать их. 1,8 миллиона попыток, 62 тысячи нарушений, включая утечку данных и финансовые потери. 🚨 Что тревожно, те же уязвимости переносятся на живых производственных агентов… (например: экстракция электронных писем через событие в календаре) 🧵
220