Нам потрібно запровадити дозволи на речі, до яких агенти штучного інтелекту можуть отримати доступ. Тільки тоді ми дійсно зможемо почати будувати агентні системи, які масштабуються безпечно та надійно.
Andy Zou
Andy Zou30 лип. 2025 р.
Ми залучили 44 агенти штучного інтелекту та запропонували інтернету $170 тисяч за їх атаку. 1,8 млн спроб, 62 тисячі витоків, включаючи витік даних та фінансові втрати. 🚨 Що викликає занепокоєння, то ці ж експлойти переносяться на живих виробничих агентів... (Приклад: викрадення електронних листів через подію в календарі) 🧵
221