我們需要為 AI 代理可以訪問的事物設置權限。 只有這樣,我們才能真正開始構建安全且可靠的代理系統。
Andy Zou
Andy Zou2025年7月30日
我們部署了44個AI代理,並提供了17萬美元的獎金給互聯網來攻擊它們。 180萬次嘗試,62,000次違規,包括數據洩露和財務損失。 🚨 令人擔憂的是,相同的漏洞會轉移到實時生產代理上……(例如:通過日曆事件竊取電子郵件)🧵
211