Se você ocultar o prompt do sistema e as descrições das ferramentas para o seu agente LLM, o que você está realmente fazendo é pegar o conjunto mais detalhado de documentação do seu serviço e ocultá-lo deliberadamente de seus usuários mais sofisticados!
Nova classe de ataque desonesta definida por @wunderwuzzi23: "Escalonamento de privilégios entre agentes"
Se alguém tiver o Claude Code e o GitHub Copilot em sua máquina, você pode solicitar a injeção de um e editar a configuração do outro para aumentar ainda mais os privilégios do seu ataque!