Phantom squatting: a nova ameaça de phishing impulsionada por IA que inventa domínios inexistentes

Os grandes modelos de linguagem estão gerando um novo vetor de ataque que merece atenção imediata: inventam endereços web plausível que não existem, e os criminosos as compram ao voo para transformá-las em armadilhas de phishing. Palo Alto Networks Unit 42 nomeou essa tática como phantom squatting e a encontrou já operando em condições reais, com casos em que os modelos sugeriram domínios inexistentes e, semanas depois, esses mesmos nomes foram registrados e usados para roubar dados financeiros e credenciais.

O perigo central é a transferência automática de confiança: desenvolvedores, assistentes e agentes automatizados tendem a tratar um link que lhes dá um modelo como se fosse verídico. Quando o domínio não existia no momento da geração, que o registra primeiro herda essa confiança sem necessidade de campanhas de e-mail em massa ou anúncios maliciosos; basta que uma ferramenta confiável redireciona a vítima. Umit 42 submeteu modelos perguntas sobre centenas de marcas e obteve milhões de ligações, muitos dos quais eram invenções consistentes entre modelos e ajustes, o que os torna previsíveis para um atacante.

Que esses domínios não provem de memórias diretas do treinamento, mas dos padrões estatísticos do modelo é especialmente inquietante: significa que a ocorrência repetida de uma mesma direção fictícia não é um erro aleatório, mas um comportamento reprodutível. Essa consistência converte a ameaça em algo utilizável em grande escala: um atacante que rastreia as saídas de um modelo ou que conhece os padrões de geração pode antecipar e registrar domínios antes de ninguém.

A natureza efímera de um domínio recém- registrado joga a favor do atacante. Os serviços de reputação, blocklists e feeds de ameaças precisam de evidências de abuso para reagir; um domínio recém-criado não tem história nem sinais e, portanto, passa despercebido até que faz dano. Em incidentes documentados por Unit 42, domínios preditos pelos modelos foram convertidos em clones exatos de lojas e bancos, com kits de phishing que capturavam cartões e documentos, e mesmo em operações que distribuíam aplicações maliciosas para Android.

Isto não é um fenômeno isolado: há história em ecossistemas de desenvolvimento onde modelos geradores de código propõem nomes de pacotes que não existem e atacantes registram esses nomes para distribuir malware ou backdoors - um vetor conhecido como slopsquatting. A lição é a mesma quando a saída do modelo se converte em entrada operacional: se estiver a funcionar sem verificar, a janela temporária de reação é curta e dispendiosa.

Para empresas e equipamentos de segurança, as opções defensivas existem e devem ser aplicadas com urgência. É possível mapear preditivamente os endereços que um modelo tende a inventar e monitorar seu registro, assim como estabelecer alertas precoces frente a registros novos que correspondam a esses padrões. Também é eficaz impor controlos em agentes e assistentes para que não abram nem baixem conteúdo de links gerados por modelos sem validação humana ou automatizada prévia, e usar verificações de reputação em tempo real (por exemplo, com APIs de navegação seguras e consultas DNS/WHOIS) antes de permitir interações sensíveis.

Para usuários e desenvolvedores individuais a regra mais prática é clara: não confiar cegamente num link fornecido por uma IA. Confirme que o domínio corresponde à web oficial antes de introduzir senhas ou chaves, verifique certificados TLS e active boas práticas como autenticação multifator e políticas de allowlist em agentes automatizados. As organizações devem considerar também aquisições defensivas seletivas, acordos com registradores e serviços de proteção de marca, embora essa estratégia possa resultar em escala.

Os fornecedores de modelos e plataformas devem assumir responsabilidade técnica: instrumentar os outputs para marcar ligações geradas por IA, oferecer ferramentas integradas de verificação de domínio e conceber mecanismos para reduzir a probabilidade de os modelos produzirem nomes viáveis, mas inexistentes. A nível de arquitetura, algumas limitações dos modelos tornam a geração destes falsos positivos difícil de erradicar completamente, pelo que a mitigação operacional e de processos será fundamental.

A boa notícia é que a predibilidade do fenômeno deixa uma oportunidade defensiva: as empresas podem se adiantar mapeando os “patrones de invenção” dos modelos que usam, monitorando registros e implantando bloqueios ou sinkholes antes que os domínios sejam explorados. Para recursos e diretrizes práticas sobre como se proteger contra o phishing e abusos de domínios, consulte pesquisas de resposta a incidentes em segurança como as publicadas por Unit 42 de Palo Alto Networks e recomendações de segurança na internet como guias de navegação seguros de provedores e autoridades, por exemplo, documentação técnica do Google Safe Browsing em developers.google.com/safe-browsing.

Em última análise, o problema essencial é de confiança: a IA amplifica tanto a utilidade como o risco de atalhos não verificados. Se os defensores não anteciparem e vigiam esses domínios inventados, o prêmio de chegar primeiro será para os atacantes. A resposta passa por combinar controles técnicos, processos de verificação e formação: tratar a saída de um modelo como um rascunho que requer validação antes de se tornar ação.