Grok em Paris a batalha legal pela IA que gera imagens sexuais

A polícia francesa fez um registro nos escritórios de X em Paris esta semana no âmbito de uma pesquisa criminal que tem como eixo a ferramenta de inteligência artificial Grok, utilizada pela plataforma para gerar imagens com conteúdo sexual. As autoridades abriram o processo no início de 2025 e, segundo fontes oficiais, ampliaram as pesquisas após receber denúncias sobre geração e difusão de material ilícito, incluindo deepfakes sexuais e conteúdos que negam o Holocausto.

A intervenção foi executada pela unidade especializada em cibercrimes da Gendarmería Nacional e contou com apoio de agentes da Europol. O promotor de Paris tem impulsionado medidas que vão além do registro: citou voluntariamente Elon Musk e a diretora executiva de X, Linda Yaccarino, para que acudan declarar em 20 de abril, e planeja receber vários funcionários da plataforma como testemunhas entre 20 e 24 de abril. A introdução do fiscal justificou estas citações, indicando que as declarações permitirão aos responsáveis da empresa expor a sua versão dos factos e, se for caso disso, as medidas de cumprimento que tencionam adoptar ( comunicado do fiscal).

No centro da pesquisa estão vários possíveis delitos: cumplicidade na posse e distribuição de pornografia infantil, crimes relacionados com deepfakes sexuais não consentidos, negação do Holocausto, extração fraudulenta de dados, manipulação de sistemas e a suposta exploração de uma plataforma online ilegalmente dentro de uma estrutura organizada. A lista de acusações reflete a complexidade do caso: não se trata apenas de moderar conteúdos, mas de determinar responsabilidades penais e técnicas na gestão e implantação de modelos de IA que interagem em ambientes públicos.

X já reagiu publicamente qualificando a pesquisa, ou pelo menos certos aspectos dela, como uma ação com motivações políticas; sua conta oficial de Assuntos Globais publicou uma versão dos fatos em que rejeitava as imputações sobre manipulação algorítmica e “extração fraudulenta de dados” ( mensagem do X Global Affairs). A tensão entre a empresa e os reguladores não é nova: desde Bruxelas até Londres e a Califórnia foram abertas diligências para avaliar se a empresa cumpriu as obrigações jurídicas ao implementar Grok.

A Comissão Europeia iniciou, em Janeiro de 2026, uma investigação destinada a verificar se o X realizou uma avaliação adequada de riscos exigida pelo quadro normativo europeu conhecido como Digital Services Act antes da implantação do Grok; o DSA obriga as plataformas a identificar e mitigar riscos sistémicos decorrentes dos seus serviços ( mais sobre o DSA). Em paralelo, organismos nacionais lançaram pesquisas de diferente alcance: o Gabinete do Comissariado de Informação do Reino Unido emitiu uma declaração em que expressa sua preocupação, Ofcom anunciou uma investigação centrada na segurança online e o procurador-geral da Califórnia abriu uma revisão pelo uso da IA na geração de imagens sexuais sem consentimento ( ICO, Ofcom, Escritório do Procurador Geral da Califórnia).

Estas acções são articuladas em meio a outra sanção da União Europeia: em Dezembro, a Comissão impôs uma multa a X por incumprimentos em obrigações de transparência associadas ao DSA. Esse antecedente sublinha que as autoridades europeias estão vigilantes sobre como as grandes plataformas documentam e comunicam os riscos e os controlos dos seus sistemas automatizados, especialmente quando impactam direitos fundamentais e a segurança pública.

O que levanta este caso desde a tecnologia e a política pública? Em primeiro lugar, expõe a dificuldade de conter o mau uso de modelos gerativos quando se combinam com uma interface pública e com possibilidades de compartilhar conteúdo de forma viral. Em segundo lugar, sublinha a necessidade de quadros claros para auditar e supervisionar modelos: saber quais dados foram usados para treinar, como são filtrados pedidos que podem resultar em imagens que violem a lei, e quais mecanismos existem para conter a distribuição de material ilícito.

Há também implicações no terreno da responsabilidade técnica e legal. Os reguladores buscam respostas sobre se a plataforma implementou salvaguardas eficazes e se existiram falhas ou práticas que facilitaram a extração maciça de dados ou a manipulação do sistema. A linha entre uma negligência em moderação e uma conduta constitutiva de crime nem sempre é nítida, e aí entra o trabalho dos fiscais e dos peritos informáticos para reconstruir fatos e atribuir culpas.

Para as empresas tecnológicas, a lição é clara: lançar modelos gerativos em ambientes de grande alcance sem controlos robustos pode acarretar consequências legais e regulamentares severas. Para os reguladores, o desafio consiste em agir rapidamente, mas também com critérios técnicos sólidos, porque impor restrições excessivas ou sanções sem provas pode alimentar narrativas de perseguição política, enquanto uma resposta morna deixaria sem proteção as pessoas afetadas por deepfakes ou exploração sexual.

No plano social, a crise reaviva questões sobre a proteção da intimidade e a dignidade frente a ferramentas que reproduzem imagens sem consentimento. Além disso, a presença de conteúdos que negam crimes históricos acrescenta uma camada de dano simbólico e legal; muitas jurisdições consideram a negação do Holocausto como um crime, e sua proliferação em plataformas levanta dilemas sobre a moderação, a educação e a liberdade de expressão.

Enquanto se desenvolve a instrução na França e avançam as investigações em vários países, convém observar dois processos paralelos: por um lado, a investigação penal que pode acabar em acusações e sanções; por outro, os procedimentos regulatórios que buscam ajustar a governança da IA na esfera pública. Ambos vão influenciar como as empresas desenham e exibem modelos gerativos no futuro próximo.

A história não se reduz a uma única rede social ou a um único produto: é um teste para o ecossistema inteiro sobre como equilibrar inovação e segurança, e sobre quais modelos de governação multijurisdicional são eficazes em relação a riscos que não respeitam fronteiras. Se quiser consultar as comunicações oficiais relacionadas com o caso e as investigações regulamentares, pode rever o comunicado do procurador de Paris ( anúncio no LinkedIn), detalhes do fiscal em PDF ( comunicado do Tribunal de Paris) e as reações de organismos reguladores como a Comissão Europeia sobre o DSA, a ICO, Ofcom e a Escritório do Procurador Geral da Califórnia. Também pode seguir a postura oficial difundida por X através de sua conta de Assuntos Globais ( mensagem em X).

Em última análise, este caso cifra uma encruzilhada: como permitir que a tecnologia avance e, ao mesmo tempo, como exigir que esse avanço não deixe impunes os danos às pessoas nem viola normas penais e de convivência. Os próximos passos — audiências, pertagens e resoluções regulamentares — marcarão não só o rumo de X e Grok, mas também as normas essenciais para a IA que conviverão com milhões de usuários em todo o mundo.