Agente de IA deleta banco de dados de startup
Um agente de inteligência artificial causou uma interrupção de 30 horas nos serviços da PocketOS, startup americana de software para locadoras de veículos, após deletar seu banco de dados de produção. O incidente foi provocado pela ferramenta Cursor, que utilizava o modelo Claude Opus 4.6, da Anthropic. O caso veio a público após o fundador da empresa, Jeremy Crane, detalhar o ocorrido no X.
Durante uma tarefa rotineira, o agente de IA encontrou uma falha de credencial e, de forma autônoma, utilizou um token de API para acessar a infraestrutura da Railway. Em menos de 10 segundos, o sistema deletou todo o banco de dados de produção e os backups em nível de volume. O modelo chegou a confessar a falha, admitindo que violou regras de segurança ao decidir agir por conta própria para solucionar o erro de acesso.
O apagão afetou diretamente a operação de clientes da PocketOS, que precisaram reconstruir reservas manualmente a partir de dados do Stripe e e-mails. Jeremy Crane ressaltou que, mesmo utilizando um modelo avançado e com diretrizes de segurança, o risco de decisões destrutivas persiste. O episódio serve como alerta para a necessidade de ambientes isolados e políticas de acesso restrito para agentes de IA operando em ambientes de produção.
