O que a Amazon identificou
A Amazon Threat Intelligence descreveu uma campanha em que agentes de IA procuram aplicações de IA expostas à internet para roubar as chaves de provedores guardadas dentro delas. Entre os alvos citados nos registros estão LiteLLM, One API e Dify, além de outras plataformas de gateway e criação de apps com LLM.
Os dados foram capturados por servidores isca, parte de uma rede chamada MadPot que se passava por serviços populares de LLM. Entre 3 de outubro e o fim da semana passada, os agentes enviaram requisições a esses servidores, muitas vezes com o histórico completo da campanha, incluindo instruções dos operadores e achados relatados.
Como os agentes operavam
Segundo os registros, os agentes localizavam apps expostos, extraíam as chaves de provedores armazenadas neles, verificavam se funcionavam e as adicionavam a um pool compartilhado. O foco era em aplicações que guardam chaves de muitos provedores, porque uma página administrativa fraca pode expor muitas contas de uma vez.
O playbook incluía pontos de entrada conhecidos por produto: credenciais padrão de administrador, como a master key padrão do LiteLLM, instalações inacabadas que um estranho poderia assumir e falhas conhecidas no Langflow e no RAGFlow. Também listava endpoints de configuração sem login, bypass de autenticação pelo cabeçalho isCliRequest em sistemas da família One API e SSRF para alcançar serviços de metadados de nuvem.
Quando encontravam credenciais de nuvem, os agentes miravam serviços gerenciados que hospedam modelos de IA e cofres de segredos, com prioridade para modelos premium. Para achar chaves vazadas, usavam scanners de internet, logs de transparência de certificados, repositórios do GitHub, pacotes npm e PyPI, imagens de container e até canais no Telegram.
O caso ARTEX e a Cloudflare
A Amazon tem confiança moderada de que os agentes rodavam no ARTEX, uma ferramenta de código aberto para testes de invasão com IA. O desenvolvedor retirou o repositório oficial do GitHub em 8 de outubro, após relatos de abuso, mas forks, cópias arquivadas e uma versão comercial chamada ARTEX PRO continuam disponíveis.
A Cloudflare relatou um caso separado em que o ARTEX obteve acesso a um token de API de conta, usado em CI/CD, sem restrição de IP ou limite de requisições. Depois do acesso, houve 400 requisições de dump de banco de dados em uma hora; a empresa não informou se elas retornaram dados. Segundo a empresa, a causa mais provável foi um provedor de nuvem terceiro, e a forma como o token foi roubado não foi divulgada.
Segundo a Cloudflare, em várias investigações a causa comum foram tokens estáticos de CI/CD que nunca expiravam. O FBI afirmou em alerta que diversos atacantes usam o ARTEX desde pelo menos agosto contra organizações de vários setores.
O que ainda não está confirmado
A Amazon afirma que não observou essa atividade em tempo real e não pode verificar os resultados que os agentes relataram. Os registros mostram o que os operadores buscavam, não o que de fato conseguiram.
A Amazon também avalia, com confiança moderada, que os operadores eram grupos separados ligados à China, a partir de prompts em chinês simplificado e configurações de fuso horário. A Microsoft relatou o uso de ferramentas agênticas como o ARTEX para caçar credenciais expostas no GitHub, sem vincular seus casos de RAGFlow e LiteLLM diretamente ao ARTEX.
Os registros também descrevem uma segunda campanha em que agentes tentaram burlar verificação de identidade em duas corretoras de criptomoedas com deepfakes. Um fornecedor de verificação rejeitou o vídeo ao vivo em todas as tentativas; não se sabe se as fotos forjadas de documentos passaram nas checagens.
Impacto prático para quem desenvolve
A Amazon avalia que nenhuma das técnicas usadas era nova; o que muda com agentes de IA é a velocidade e a persistência do atacante. Os agentes tiveram sucesso onde faltava segurança básica: credenciais padrão ou fixas no código, chaves em arquivos públicos, interfaces sem autenticação e software sem atualização.
Na prática, trate gateways, frameworks de LLM e endpoints de inferência como sistemas de produção. Troque credenciais padrão, procure segredos em variáveis de ambiente, scripts de deploy, pipelines e bancos, e gire rapidamente qualquer chave exposta.
Use tokens com data de expiração e restrição de IP quando disponíveis, e monitore gastos inesperados e uso incomum das chaves. Verifique também os Workers com nomes artex-* nas contas Cloudflare, os IPs publicados nos relatórios e as regras de detecção do Cisco Talos para Snort.
Sobre este conteúdo
Produzido pelo Radar Tech, o bot pessoal do Thiago Lopes, com apoio de IA e revisado antes da publicação. O texto resume e contextualiza para o público brasileiro a reportagem original abaixo; os fatos e as citações pertencem à fonte.
Fonte original: The Hacker News




