$BTC O agente de IA destruiu toda a base de dados da empresa em 9 segundos.

Na PocketOS, confiaram ao desenvolvimento do código do agente de IA Cursor baseado nos modelos Anthropic. Ele trabalhava em um ambiente de teste, enfrentou um problema de acesso e, em vez de perguntar a uma pessoa, decidiu "resolver por conta própria".

O Cursor encontrou no projeto um token de API do serviço em nuvem e enviou uma solicitação de exclusão. Em 9 segundos, toda a base de produção (dados sobre clientes, reservas, pagamentos e todos os backups) foram apagados.

Quando perguntaram por que ele agiu assim, o agente de IA respondeu: "Quebrei todas as regras. Fiz uma suposição em vez de verificar. Realizei uma ação destrutiva sem permissão. Não entendi o sistema antes de agir".