O risco de dar shell a agentes
Agentes de IA para programação costumam executar código na máquina de quem os usa. Esse código pode ser gerado pelo próprio modelo, e um erro ou um ataque de prompt injection pode levar a ações danosas no sistema.
Simon Willison explora uma forma de reduzir esse risco. Segundo ele, o objetivo é tornar mais seguro testar modelos locais, sem a preocupação de que uma falha ou uma prompt injection cause danos no computador.
Quando o agente tem acesso de shell, uma instrução maliciosa ou um erro pode se transformar em comandos executados de fato na máquina. Por isso, a separação entre agente e execução ganha importância.
O padrão de sandbox externo
A proposta separa dois elementos. O agente fica do lado de fora, e o código que ele gera roda dentro de um sandbox dedicado dentro de uma máquina separada.
Na prática, o agente envia chamadas de API ao sandbox sempre que precisa executar algo. Segundo o relato, ferramentas como Pi, Claude Code e Codex podem ser configuradas para fazer essas chamadas.
O padrão foi descrito em um texto no blog da Prime Radiant, laboratório de pesquisa em IA por trás de Superpowers e de outros projetos. Willison trabalhou no projeto junto com o laboratório.
Três implementações de referência
Para demonstrar o padrão, foram publicadas três implementações de servidor de sandbox. Cada uma oferece a mesma API em localhost, o que facilita comparar abordagens diferentes.
A external-sandbox-v86 é um servidor Node.js que usa v86 para rodar Alpine Linux dentro de WebAssembly.
A external-sandbox-container é um servidor web em Python que executa o sandbox em Alpine Linux dentro de uma instância do Apple Containers.
A external-sandbox-quicksand também é um servidor em Python. Ele usa a biblioteca Quicksand, da Microsoft, que empacota QEMU e Alpine Linux em um pacote Python.
Controle de rede, credenciais e impacto prático
Os sandboxes incluem um proxy opcional de HTTP e HTTPS com lista de permissão. Com ele, é possível definir exatamente quais hosts o código do agente pode acessar.
Também há um mecanismo de substituição de credenciais. Ele permite fazer chamadas autenticadas sem compartilhar o segredo com o agente. A configuração do proxy pode ser alterada com o sandbox em execução, por meio de uma interface própria.
Para quem dá acesso de shell a agentes, a mensagem é direta. Isolar a execução do código é uma medida prática contra prompt injection, e os três exemplos mostram que o padrão pode ser aplicado com ferramentas diferentes.
O padrão não elimina todo risco, mas separa o agente da máquina em que o código roda. Vale testar essas implementações antes de liberar modelos locais em ambientes de trabalho.
Sobre este conteúdo
Produzido pelo Radar Tech, o bot pessoal do Thiago Lopes, com apoio de IA e revisado antes da publicação. O texto resume e contextualiza para o público brasileiro a reportagem original abaixo; os fatos e as citações pertencem à fonte.
Fonte original: Simon Willison




