Cibersegurança e Inteligência Artificial

Neste artigo, vamos discutir como a Cibersegurança e a Inteligência Artificial se relacionam, quais perigos as tecnologias de IA representam para as organizações e o que é preciso considerar ao implementar ferramentas de IA em seus sistemas de proteção de dados.

Definições e conceitos que vamos detalhar neste artigo.

Cibersegurança é o estado do sistema de informação que garante a integridade, a confidencialidade e a disponibilidade de seus ativos digitais de informação: documentos, arquivos, sistemas e serviços, dados pessoais de parceiros, funcionários e clientes, recursos de Internet, etc.

Inteligência Artificial (doravante IA) é o conjunto de soluções tecnológicas que permitem que máquinas executem tarefas que normalmente exigem inteligência humana. Em especial, aprender, raciocinar e encontrar soluções ótimas para problemas.

Redes neurais — modelo matemático implementado de forma programática ou técnica. Reproduz o princípio de funcionamento das conexões neurais humanas. O conceito não é idêntico ao de inteligência artificial e é parte dela. A capacidade de aprender é a vantagem mais importante das redes neurais.

Principais ameaças à Cibersegurança associadas ao uso de tecnologias de Inteligência Artificial

O desenvolvimento sem precedentes e acelerado das tecnologias de IA mudou significativamente muitos aspectos da vida humana moderna, trazendo comodidade e abrindo oportunidades quase ilimitadas para o trabalho, o aprendizado e a criatividade.

No entanto, à medida que a tecnologia de IA se tornou mais sofisticada e acessível às massas, o cenário de ameaças cibernéticas se tornou mais complexo, tanto para usuários individuais quanto para organizações inteiras. A seguir, veremos as ameaças cibernéticas relacionadas à IA mais comuns para as organizações.

Malware baseado em IA

Hoje, as tecnologias de Inteligência Artificial estão sendo usadas para desenvolver malwares sofisticados capazes de aprender como o sistema de informação da organização funciona e contornar habilmente as medidas de segurança tradicionais. Os cibercriminosos também podem usar a IA para automatizar o processo de localização e identificação de vulnerabilidades de SI e direcionamento de ataques.

Uma tendência preocupante é a capacidade da IA de gerar um enorme número de variantes de malware e sobrecarregar os sistemas de segurança — e os especialistas em SI em particular. Ao mesmo tempo, a IA como ferramenta não exige conhecimento profundo de TI, o que reduz significativamente a barreira de entrada para cibercriminosos — e isso também vai contribuir para o aumento das ameaças.

O malware criado com inteligência artificial apresenta uma série de características.

1. A capacidade de imitar famílias de malware conhecidas — e com precisão muito alta. A imitação pode enganar os serviços de segurança, dificultando a identificação da ameaça.
2. Polimorfismo. O malware baseado em IA pode alterar automaticamente seu código a cada replicação ou infecção. As "mutações" contínuas dificultam o reconhecimento e o bloqueio do malware pelos métodos tradicionais de detecção baseados em assinatura.
3. Adaptação em tempo real. O malware baseado em IA é capaz de adaptar seu comportamento ao ambiente em tempo real.

Outro ponto importante a considerar na organização da Segurança da Informação é a relativa novidade dos ataques baseados em IA. De acordo com pesquisas recentes, a maioria das organizações ainda não possui planos de resposta para incidentes de Cibersegurança envolvendo sistemas de IA.

Deepfakes

Como a prática demonstra, mesmo o sistema de Segurança da Informação mais estável e confiável será ineficaz se os funcionários da organização não estiverem cientes das regras de comportamento seguro on-line.

Com o desenvolvimento da tecnologia de Inteligência Artificial, os deepfakes se tornaram amplamente difundidos, e seu número cresce a cada dia.

Usando essa tecnologia de IA, os cibercriminosos podem criar vídeos, imagens ou gravações de voz convincentes de pessoas-chave.

Segundo a Human Constanta, o número de vídeos deepfake registrados aumentou 550% entre 2019 e 2023. No entanto, é importante perceber que a escala de ataques usando vídeos deepfake pode ser muito maior do que esse número, já que nem todo ataque é de fato registrado.

O que é importante saber? A tecnologia deepfake pode representar uma ameaça para usuários individuais, para organizações e até para a segurança nacional de nações inteiras, especialmente no atual clima geopolítico.

Os objetivos dos ataques com deepfake podem variar: espalhar desinformação, chantagem, incitar ódio étnico, criar pânico entre o público, criar imagens e vídeos comprometedores, roubar dados confidenciais, personificar uma pessoa de alto escalão para obter ganho financeiro, etc. Os invasores também podem usar ataques com deepfake como meio de espalhar desinformação, chantagem, incitar ódio étnico, criar pânico entre o público, criar imagens e vídeos comprometedores, roubar dados confidenciais, personificar uma pessoa de alto escalão para obter ganho financeiro, etc.

Detectar deepfakes hoje é uma tarefa difícil. Os algoritmos de IA estão constantemente melhorando sua capacidade de gerar conteúdo altamente realista, o que reforça a necessidade de as organizações treinarem funcionários para reconhecer deepfakes, além de implementarem ferramentas de software para combater conteúdo falso.

Engenharia social

As técnicas de engenharia social são usadas há muito tempo por criminosos e, com a adoção generalizada da tecnologia de IA, a fraude cibernética atingiu níveis novos e sem precedentes.

Os algoritmos de IA podem coletar e processar enormes quantidades de dados de usuários provenientes de redes sociais, sites de notícias, sites pessoais e usar essas informações para criar ataques de phishing direcionados, ou seja, voltados a uma pessoa específica.

A taxa de sucesso dos ataques pode ser muito alta porque a IA consegue automatizar o processo de criação de mensagens persuasivas embasadas em informações pessoais dos usuários. Ao mesmo tempo, chatbots ou assistentes de voz com IA podem se passar por indivíduos ou organizações confiáveis, dificultando que as vítimas identifiquem a atividade fraudulenta.

É importante perceber que as novas tecnologias estão à frente da legislação. Muitos dos conceitos discutidos acima ainda não existem normativamente, de modo que atribuir responsabilidade por infrações que os utilizem pode ser problemático.

Diante desse cenário, hoje é muito mais fácil e vantajoso financeiramente implantar um sistema de Segurança da Informação estável e confiável do que enfrentar a violação, encontrar o culpado, provar a culpa em juízo e recuperar a compensação.

Capacidades da IA para a Cibersegurança

A Inteligência Artificial e as redes neurais em particular podem tanto representar uma ameaça à Segurança da Informação quanto ser uma ferramenta de defesa eficaz.

Quando se trata de Cibersegurança, a Inteligência Artificial tem uma vantagem fundamental sobre o profissional de SI — a capacidade de processar rapidamente grandes volumes de dados, identificar violações de políticas de segurança e estabelecer padrões complexos que possam indicar um possível incidente, além de responder instantaneamente. A velocidade de resposta a incidentes de SI é crucial.

É importante perceber que, hoje, a IA não pode substituir totalmente um especialista em Segurança da Informação. Ao mesmo tempo, o uso de tecnologias de inteligência artificial e aprendizado de máquina permite que o especialista em SI atue de forma preventiva, eliminando ameaças de segurança antes que se concretizem.

Aplicações da IA para a Cibersegurança

Hoje, a Inteligência Artificial é usada para resolver o seguinte conjunto de tarefas:

• análise do comportamento do usuário, detecção de atividade suspeita;
• detecção de atividade maliciosa e diversas anomalias no funcionamento do sistema de informação;
• controle de acesso e autenticação de usuários;
• resposta automática a incidentes de SI; 
• identificação e prevenção de ameaças à Segurança da Informação;
• detecção e prevenção de vazamentos de dados confidenciais;
• monitoramento do sistema de informação quanto a ameaças de SI.

Modelos generativos avançados de Inteligência Artificial podem resolver problemas mais complexos:

• análise de código em busca de vulnerabilidades;
• coleta e análise de dados sobre ameaças atuais à Segurança da Informação;
• bloqueio de bots projetados para atacar recursos e aplicações web, roubar informações sensíveis, entre outros;
• busca e identificação de relações, como o reconhecimento de e-mails de phishing gerados por IA.

A lista de processos que podem ser automatizados usando IA é bastante extensa. No entanto, ao introduzir ferramentas de IA em um sistema de Segurança da Informação, é extremamente importante levar em conta suas vulnerabilidades e limitações potenciais.

Limitações e desafios do uso de IA em Cibersegurança

As ferramentas de IA podem conter vulnerabilidades próprias

Normalmente, o ciclo de vida das ferramentas de IA consiste em 4 etapas: design, desenvolvimento, implantação e manutenção. Em cada uma dessas etapas, elas podem ser infiltradas com vulnerabilidades críticas que, posteriormente, podem ser exploradas por grupos cibercriminosos para contornar mecanismos de segurança e introduzir malware no sistema de informação da organização.

Por exemplo, mecanismos de autenticação e autorização fracos ou implementados incorretamente já nas etapas de design e desenvolvimento podem levar a vazamentos de informação e a alterações não autorizadas dentro do sistema.

Durante a fase de desenvolvimento, os invasores podem explorar erros de codificação para executar código arbitrário, manipular modelos de IA ou obter acesso não autorizado a recursos do sistema.

Além disso, o comportamento de um modelo de IA pode ser alterado, deliberadamente ou não, levando à execução de tarefas não autorizadas ou à geração de respostas incorretas. As consequências potenciais são múltiplas: acesso não autorizado, vazamentos de informação, comprometimento dos dados de saída.

A possibilidade de uma cadeia de suprimentos insegura também é importante a se considerar. Isso significa que componentes adquiridos de fornecedores externos para desenvolver uma ferramenta de IA também podem conter vulnerabilidades. Os invasores podem usá-los para inserir backdoors, malware ou outros códigos maliciosos no sistema.

Ao implementar ferramentas de IA no sistema de cibersegurança, é importante ter em mente que a lista de vulnerabilidades potenciais é extensa, como evidenciado pelo número de incidentes identificados.

Por exemplo, em janeiro de 2025, tornou-se público que os desenvolvedores do chatbot chinês de inteligência artificial DeepSeek deixaram um de seus bancos de dados críticos desprotegido. Isso levou ao vazamento de mais de um milhão de registros. O histórico de correspondência dos usuários com a rede neural, chaves secretas e partes da API, dados de backend e outras informações sensíveis ficaram publicamente disponíveis.

Um mês antes, especialistas descobriram uma vulnerabilidade no ChatGPT — a ferramenta de busca da OpenAI pode ser enganada e também pode gerar código malicioso se encontrar a instrução correspondente no site.

Em junho de 2024, pesquisadores identificaram uma vulnerabilidade grave na plataforma de IA de código aberto Ollama. A vulnerabilidade com identificador CVE-2024-37032, conhecida como Probllama, representa uma ameaça — ela pode ser explorada para execução remota de código.

Questões de privacidade e segurança de dados

Com base nas informações apresentadas acima, os ataques de invasores podem ser direcionados não apenas ao sistema de informação, mas também às próprias ferramentas de IA. O processo de treinamento dos modelos de IA envolve a coleta, o armazenamento e o processamento de grandes quantidades de dados com diversos graus de sensibilidade, incluindo informações sobre ativos de TI, processos de negócio, arquitetura do sistema de informação, dados de autorização de usuários, entre outros.

Tudo isso aumenta os riscos de vazamentos, perda de privacidade e uso indevido de dados.

As ferramentas de IA são difíceis de implementar e personalizar

Implementar e personalizar o sistema de proteção de dados usando tecnologias de IA exige competências raras na interseção entre cibersegurança e programação. Além disso, a aplicação de modelos de IA envolve uma longa curva de aprendizado, levando em conta a necessidade de adaptação aos processos de negócio específicos de cada área de atuação.

Como exemplo das dificuldades que podem surgir ao implementar ferramentas de IA, podem-se configurar regras de segurança para pacotes de software projetados para monitorar automaticamente eventos de segurança e analisar violações e atividades suspeitas. Um número elevado de incidentes detectados indica que as políticas de antivírus não estão configuradas adequadamente. E um grande número de falsos positivos indica que as regras que detectam atividade suspeita não estão funcionando corretamente. Ambos os casos são ruins.

Os fatores descritos acima ressaltam a necessidade de mão de obra altamente qualificada — daí o próximo desafio.

Há uma escassez crítica de especialistas em SI altamente qualificados no mercado de trabalho

Hoje, observamos um aumento significativo no número de vagas abertas em Cibersegurança em relação ao número real de profissionais qualificados. Segundo a explodingtopics.com, 57% das empresas carecem de competências em cibersegurança. Somente nos EUA, há uma escassez de 377 mil profissionais de Cibersegurança.

A lacuna surgiu por diversos motivos, por exemplo, devido ao desenvolvimento tecnológico sem precedentes, à rápida digitalização da economia e das indústrias, e à transição em massa de profissionais para o trabalho remoto. Em poucos anos, as empresas equiparam os postos de trabalho da equipe com notebooks, tablets e smartphones; aplicações em nuvem foram conectadas, entre muitas outras mudanças — tudo isso pode se tornar um ponto de entrada no sistema de informação de uma organização e, portanto, precisa ser protegido.

A cibercriminalidade também avança rapidamente. Os ciberataques se tornaram mais complexos, seu número e intensidade cresceram, e o cenário de ameaças à Segurança da Informação também aumentou significativamente. Como mencionado acima, ataques a sistemas de informação estão sendo realizados com o uso de tecnologias de Inteligência Artificial, e as medidas de segurança adotadas em muitas empresas ainda não são robustas o suficiente para resistir às atividades de grupos cibercriminosos.

A escassez de profissionais de Cibersegurança altamente qualificados, e especialmente em um perfil tão específico como a implementação e o combate a tecnologias de IA, tem consequências de longo alcance.

Assim, as pequenas empresas serão significativamente afetadas. As organizações pequenas não conseguem destinar grandes orçamentos para organizar um sistema de proteção sustentável.

Como o Anexet Ultimate DLP utiliza redes neurais para proteger os dados das organizações?

O sistema Anexet Ultimate DLP também usa redes neurais para proteger os dados da empresa.

Reconhecimento de texto em imagens. O sistema permite analisar texto em documentos de formatos gráficos. Quando esses dados são detectados, o sistema realiza o reconhecimento de imagem e a análise de texto e aplica as políticas de segurança aos dados reconhecidos. Dependendo da ferramenta de reconhecimento de imagem selecionada, o sistema pode reconhecer documentos com extensões .PDF, .DJVU, .JPEG, .PNG, .GIF, .BMP, .TIF.

Reconhecimento de selos. O sistema analisa automaticamente os documentos que circulam na rede de informação e os verifica quanto à presença de selos. Se um documento com selo for detectado, o Anexet Ultimate o comparará com uma amostra de referência. Se houver correspondência, o sistema será acionado de acordo com as políticas de segurança configuradas.

Reconhecimento de voz. O sistema Anexet Ultimate permite analisar chamadas de voz. Ao interceptar chamadas, o sistema realizará o reconhecimento, analisará o componente textual e aplicará as políticas de segurança definidas no Console do Usuário aos dados interceptados.

Reconhecer rostos em fotos da webcam. O sistema detecta automaticamente a presença de uma pessoa nas fotos da webcam e a compara com as fotos da sua conta. Se um estranho ou outro funcionário for detectado diante da tela, o Anexet Ultimate enviará automaticamente uma notificação a um oficial de segurança e, se pré-configurado, bloqueará a sessão do usuário, independentemente de o computador estar conectado à rede ou não.

Em conclusão

Como se pode ver, a IA consegue resolver um conjunto bastante amplo de desafios de Cibersegurança, e essa lista só tende a crescer no futuro.

Ao mesmo tempo, ao organizar o sistema de Segurança da Informação, é importante considerar o crescimento exponencial das capacidades da Inteligência Artificial e do aprendizado de máquina e, com ele, o número crescente de ameaças.