Segurança de Dados de IA

A segurança de dados tradicional traça um perímetro em torno do armazenamento, das redes e dos endpoints. A IA muda esse quadro. Os dados são copiados para conjuntos de treinamento, indexados para recuperação e transformados em texto gerado. Cada cópia cria um lugar onde os controles comuns não olham: o pipeline de logs de um provedor, um índice vetorial ou a memória de um modelo. A proteção precisa acompanhar os dados, não a infraestrutura, e isso começa pela classificação de dados.

Três propriedades importam. Confidencialidade: entradas sensíveis não podem chegar a partes que a organização nunca autorizou. Integridade: dados de treinamento e o contexto recuperado não podem ser manipulados de forma a corromper o comportamento do modelo. Controle: a organização precisa saber quais cópias existem, onde estão e sob quais condições são processadas.

A regulação alcança o mesmo terreno. Os princípios da LGPD de finalidade, minimização de dados e transparência valem para dados de treinamento e prompts como para qualquer outro tratamento. Obrigações de comunicação de incidentes também podem ser acionadas por uma divulgação relacionada à IA.

Os dados chegam aos sistemas de IA por cinco caminhos:

Um prompt é uma transferência de dados. Dependendo dos termos do provedor, o conteúdo enviado pode ser guardado para revisão ou usado para treinar versões futuras. O que um modelo memorizou durante o treinamento pode reaparecer em respostas dadas a outras pessoas. O vazamento por um prompt de LLM não aparece na rede: é uma requisição HTTPS comum para um domínio conhecido, com um contrato confidencial no corpo. Detectá-lo exige ler o conteúdo, e não só verificar o destino. Esse é o cerne da prevenção contra perda de dados (DLP).

As saídas vazam no sentido inverso. Um resumo ou uma resposta gerada a partir de documentos recuperados pode revelar informações a um destinatário que nunca teve acesso à fonte. Um número interno pode ser republicado em uma minuta para cliente, ou dados pessoais podem ser incorporados ao texto gerado. Como conteúdo novo, a saída também pode contornar controles que procuram arquivos conhecidos.

Uma parcela grande dos incidentes de segurança de dados em IA começa com shadow AI, a versão em IA do shadow IT. Funcionários usam ferramentas de IA não homologadas para trabalho real, porque são gratuitas e instantâneas. A exposição passa a depender de ferramentas que a organização não escolheu, de termos que não leu e de políticas de retenção que não consegue auditar. A contramedida tem três partes:

1. 1

   Defina uma política clara de uso aceitável

   Determine quais usos de IA são permitidos no trabalho.

2. 2

   Ofereça alternativas homologadas

   Disponibilize ferramentas aprovadas para as mesmas necessidades.

3. 3

   Acompanhe o que sai para serviços de IA

   Tenha visibilidade do conteúdo enviado a serviços de IA.

O envenenamento de dados mira a etapa de treinamento. Um atacante injeta ou edita amostras para que o modelo aprenda associações erradas, plantando portas dos fundos que disparam com frases específicas. As defesas se concentram na proveniência, na coleta controlada e na avaliação antes da implantação.

A injeção de prompt mira o contexto. Instruções escondidas em um documento, página ou mensagem que o modelo lê depois tentam sobrepor a intenção do operador. Podem exfiltrar dados recuperados para uma resposta ou acionar ações não autorizadas de ferramentas. Um sistema que recupera conteúdo não confiável herda tudo o que essas instruções disserem. A inversão de modelo e a inferência de pertencimento seguem outro caminho: tentam extrair dados de treinamento do próprio modelo implantado.

A Anexet observa os canais pelos quais prompts e arquivos saem da empresa, e o console do Anexet DLP mostra o que foi capturado. A captura mostra a aba de IA de um e-mail interceptado: as ameaças potenciais aparecem listadas, há um resumo curto e um aviso informa que a saída da IA precisa de verificação. A análise pode rodar em um modelo de IA local dentro da organização, então o texto interceptado não sai da infraestrutura.

Programas eficazes combinam várias medidas: classificação antes de copiar os dados, avaliação do provedor antes de aprovar um serviço, governança de acesso aos corpora de recuperação, inspeção de conteúdo em todos os canais, monitoramento de texto colado nos endpoints e trilha de auditoria de cada evento. Bloquear o acesso a serviços de IA não homologados é uma parte disso, descrita em bloqueio de vazamentos de dados para serviços de IA.

Cada medida precisa de um responsável. Os papéis costumam ser assim:

Comece pelos dados que mais prejudicariam se saíssem e depois pelos canais que eles realmente usam. Políticas escritas para todos os arquivos de uma vez acabam bloqueando o trabalho e são desligadas.

Leitura adicional: Cibersegurança e Inteligência Artificial; Sistemas DLP — o que são e como funcionam.