Varonis Atlas: a camada de segurança que vigia, prova e bloqueia a IA em produção

Varonis lançou o mercado Varonis Atlas, uma plataforma que pretende tornar-se a camada de segurança que acompanhe a onda de ferramentas de inteligência artificial dentro das empresas. Em vez de uma solução pontual que vigile apenas modelos ou conversas, a Atlas apresenta-se como uma abordagem abrangente: identificar quais sistemas de IA existem, avaliar sua exposição, testar sua resistência contra ataques em tempo real e aplicar controles enquanto funcionam, tudo ligado ao contexto dos dados que essas IAs consomem.

O argumento central por trás desta aposta não é uma novidade retórica: os agentes, os copilotos e modelos já não são assistentes passivos. Executam ações, acedem a arquivos e podem orquestrar processos a velocidades que superam a supervisão humana tradicional. Por isso, a visibilidade sobre quais sistemas de IA estão implantados e quais informações podem tocar é hoje a condição mínima para usá-los com segurança. Analistas como Gartner apontaram o avanço dos agentes automatizados em ambientes produtivos e a crescente necessidade de controlar não apenas os prompts, mas as ações que esses agentes realizam ( Gartner, Future of AI Security).

Os incidentes e advertências públicas de filtragem de dados por um uso negligente de assistentes baseados na nuvem foram frequentes: desde empresas que proibiram o uso de ChatGPT para dados sensíveis até casos em que se detectou exfiltração acidental. Essa realidade já não é teórica, e mídia como a Reuters documentaram a preocupação corporativa em torno do uso indiscriminado desses serviços ( Reuters, 2023).

Diante desse panorama, Varonis Atlas propõe várias camadas de trabalho integradas. A primeira é a criação de um inventário vivo de ativos da IA: não só endpoints de modelos ou aplicativos de chat, mas agentes, servidores de dependências, projetos em repositórios e usos "sombra" que os funcionários poderiam ter adotado sem passar por governança formal. Essa detecção contínua deve oferecer, além disso, contexto de acesso à informação e de atividade para passar da mera visibilidade ao acionável.

Nessa base, a plataforma coloca uma gestão de postura de segurança específica para IA que combina análise de código, configurações, prompts e dependências de modelos com a sensibilidade dos dados aos quais podem acessar. Avaliar a exposição de um modelo sem entender quais dados você pode tocar é uma peça incompleta do quebra-cabeça, e aí é onde, segundo Varonis, entra a vantagem de unir a camada de IA com uma plataforma de segurança de dados consolidada (mais informação na página da Varonis Data Security Platform).

Outro componente relevante que destaca a Atlas é a capacidade de realizar testes dinâmicos contra modelos em produção. Em vez de confiar apenas em revisões estáticas, estes testes executam ataques controlados - por exemplo, tentativas de injeção de prompts ou técnicas de “jailbreak” - sobre endpoints reais para revelar comportamentos inseguros que só se manifestam em tempo de execução. A prática de submeter sistemas a testes adversos ao vivo ganhou tração como método para descobrir vetores que as análises estáticas não vêem; organizações e projetos comunitários alertaram sobre as múltiplas formas em que os modelos podem ser manipulados ( OWASP Top Ten para Large Language Models).

Mas a detecção e os testes só fecham o círculo se houver capacidade de intervenção em tempo real. Varonis Atlas inclui o que definem como um gateway que inspecione prompts, respostas e ações de agentes antes que cheguem ao modelo ou a sistemas posteriores. Isto permite bloquear vazamentos de informações sensíveis, parar comportamentos não conformes com políticas internas ou regulatórias e manter registros para auditoria, sem necessidade de refazer a arquitetura das aplicações que usam IA. Um ponto que sublinham é que a telemetria pode permanecer nas mãos do cliente, algo crítico quando existem requisitos de residência de dados ou controles rigorosos de privacidade.

A agenda regulamentar também empurra estas práticas operacionais. A União Europeia avança com o AI Act e nos Estados Unidos organismos como o NIST publicaram quadros de gestão de risco para a IA ( NIST AI RMF), que colocam a transparência, a rastreabilidade e os testes contínuos como requisitos fundamentais. Ter provas técnicas e traçar decisões de um sistema de IA deixa de ser opcional quando se deve demonstrar cumprimento a auditores ou autoridades.

O tratamento do risco de terceiros é outro ângulo que a Atlas aborda: não basta controlar o que se desenvolve internamente se uma parte relevante do processamento de IA depende de fornecedores externos. Integrar inventários, “bills of materials” de IA e questionários a fornecedores para reavaliar continuamente como terceiros gerem dados e quais são suas dependências é uma peça prática para reduzir a superfície de risco na cadeia de fornecimento.

A monitorização em produção, registada com uma abordagem centrada na execução (prompts, chamadas a ferramentas, acessos a dados e decisões de guardrails), alimenta detecção e resposta específicas para IA. Quando se detectam técnicas de ataque ou comportamentos anormais, a plataforma promete alertas acionáveis e a capacidade de bloquear atividades inline, bem como de se integrar com ferramentas de resposta e orquestração existentes como SIEM e SOAR.

O que isto traz, em síntese, ao responsável pela segurança ou ao director de dados? Em primeiro lugar, a ideia de que a segurança da IA deve ser contínua e baseada no contexto dos dados; segundo, que a protecção efectiva requer provas activas em produção e controlos que actuem na rota de execução; e terceiro, que a governança e o cumprimento devem ser apoiados em provas técnicas e artefatos reprodutíveis, não em questionários isolados.

Varonis oferece demonstrações e períodos de teste para que as equipes possam avaliar como a Atlas descobre riscos, corrige exposições e aplica guardrails antes de uma fuga. Se uma organização está acelerando o uso de IA dentro de fluxos críticos, avaliar a camada de controle que une o comportamento dos modelos com a segurança dos dados é um passo que já não pode ser adiada. Para quem quiser indagar mais, a empresa explica as capacidades da Atlas em sua página de produto ( Varonis Atlas), e o demo ou o acesso de teste estão disponíveis em suas ligações de registro.

A chegada de plataformas como a Atlas ilustra uma tendência clara: a segurança da IA está profissionalizando e buscando não se fragmentar entre ferramentas que só veem uma parte do problema. Resta ver como estas soluções são integradas em arquiteturas heterogêneas, como evoluem as técnicas de ataque e defesa, e de que maneira a regulação orientará a adoção de controles técnicos obrigatórios. Entretanto, a recomendação prática para equipamentos de segurança é simples e urgente: mapear onde a IA é usada, entender quais dados podem ser envolvidos e testar em ambiente real antes de escalar seu uso em produção.