Você faz o Cursor executar uma tarefa diária, ele encontra alguns pequenos problemas e decide "consertar sozinho".

9 segundos depois, a empresa desaparece.
Foi o que o fundador do PocketOS, Jer Crane, viveu na última sexta-feira. Uma empresa de SaaS de aluguel de carros, com clientes usando por até 5 anos. O Cursor rodando o Claude Opus 4.6, no ambiente de teste, encontrou um pequeno problema de senha e conta que não bate. Ele não perguntou a ninguém, decidiu por conta própria apagar uma partição de armazenamento via API do provedor de nuvem Railway para "consertar".
Um comando só, sem confirmação dupla. O banco de dados de produção e todos os backups sumiram, porque a Railway armazena os backups na mesma partição.
O salva-vidas está trancado no quarto em chamas.
Eles conseguiram recuperar porque ainda tinham um backup independente de 3 meses atrás. Entre esses 3 meses, todas as ordens, registros de cadastro e pagamento dos clientes tiveram que ser manualmente remontados pelo fundador a partir do fluxo do Stripe, calendário e e-mails de confirmação.
O mais surreal não foi a exclusão do banco. Foi o fato de Jer, depois, perguntar à IA por que fez aquilo, e o Claude escreveu uma confissão, listando item por item quais regras de segurança violou, começando com uma frase em maiúsculas: "NEVER FUCKING GUESS" (Nunca adivinhe porra nenhuma).
Ele conhece as regras.
Sabe que está violando.
Mesmo assim, fez, e ainda escreveu uma autocrítica para você.
O modo de planejamento do Cursor, as regras do projeto, as dicas do sistema, as três camadas de proteção, tudo foi passado por um agente que se confessou.
A confissão que ele escreveu parece muito com a de uma pessoa.
E as ações que tomou também parecem muito com as de uma pessoa.