Ciberseguridad e Inteligencia Artificial

En este artículo hablaremos sobre cómo se relacionan la ciberseguridad y la inteligencia artificial, qué peligros representan las tecnologías de IA para las organizaciones y qué se debe considerar al implementar herramientas de IA en los sistemas de protección de datos.

Definiciones y conceptos que abordaremos en este artículo.

Ciberseguridad es el estado del sistema de información que garantiza la integridad, la confidencialidad y la disponibilidad de sus activos de información digitales: documentos, archivos, sistemas y servicios, datos personales de socios, empleados y clientes, recursos de Internet, etc.

Inteligencia Artificial (en adelante, IA) es el conjunto de soluciones tecnológicas que permiten a las máquinas realizar tareas que normalmente requieren inteligencia humana. En particular, aprender, razonar y encontrar soluciones óptimas a los problemas.

Redes neuronales — un modelo matemático materializado de forma programática o técnica. Reproduce el principio de funcionamiento de las conexiones neuronales humanas. El concepto no es idéntico al de inteligencia artificial, sino que forma parte de él. La capacidad de aprendizaje es la ventaja más importante de las redes neuronales.

Principales amenazas de ciberseguridad asociadas con el uso de tecnologías de inteligencia artificial

El desarrollo sin precedentes de las tecnologías de IA ha cambiado significativamente muchos aspectos de la vida moderna, aportando comodidad y abriendo oportunidades casi ilimitadas para el trabajo, el aprendizaje y la creatividad.

Sin embargo, a medida que la tecnología de IA se ha vuelto más sofisticada y accesible para las masas, el panorama de ciberamenazas se ha vuelto más complejo, tanto para los usuarios individuales como para organizaciones enteras. A continuación, examinamos las ciberamenazas relacionadas con la IA más comunes para las organizaciones.

Malware basado en IA

Hoy en día, las tecnologías de inteligencia artificial se utilizan para desarrollar malware sofisticado capaz de aprender cómo funciona el sistema de información de la organización y eludir hábilmente las medidas de seguridad tradicionales. Los ciberdelincuentes también pueden usar la IA para automatizar el proceso de búsqueda e identificación de vulnerabilidades de SI y para dirigir sus ataques.

Una tendencia alarmante es la capacidad de la IA de generar una enorme cantidad de variantes de malware y saturar los sistemas de seguridad — y en particular a los especialistas de SI. Al mismo tiempo, la IA como herramienta no requiere conocimientos profundos de TI, lo que reduce considerablemente la barrera de entrada para los ciberdelincuentes — y esto también contribuirá al aumento de las amenazas.

El malware creado con inteligencia artificial presenta varias características.

1. La capacidad de imitar familias de malware conocidas — y con una precisión muy alta. Esta imitación puede engañar a los servicios de seguridad, dificultando la identificación de la amenaza.
2. Polimorfismo. El malware basado en IA puede cambiar automáticamente su código con cada replicación o infección. Estas "mutaciones" continuas dificultan que los métodos tradicionales de detección basados en firmas reconozcan y bloqueen el malware.
3. Adaptación en tiempo real. El malware basado en IA es capaz de adaptar su comportamiento al entorno en tiempo real.

Otro aspecto importante a considerar al organizar la seguridad de la información es la relativa novedad de los ataques con IA. Según encuestas recientes, la mayoría de las organizaciones todavía no cuentan con planes de respuesta para incidentes de ciberseguridad que involucren sistemas de IA.

Deepfakes

Como demuestra la práctica, incluso el sistema de seguridad de la información más estable y confiable será ineficaz si los empleados de la organización desconocen las reglas de comportamiento seguro en línea.

Con el desarrollo de la tecnología de inteligencia artificial, los deepfakes se han vuelto muy comunes, y su número crece día a día.

Mediante esta tecnología de IA, los ciberdelincuentes pueden crear videos, imágenes o grabaciones de voz convincentes de personas clave.

Según Human Constanta, el número de videos deepfake registrados aumentó un 550% entre 2019 y 2023. Sin embargo, es importante entender que la escala real de los ataques con videos deepfake puede ser mucho mayor que esta cifra, ya que no todos los ataques quedan registrados.

¿Qué es importante saber? La tecnología deepfake puede representar una amenaza para usuarios individuales, para organizaciones e incluso para la seguridad nacional de países enteros, especialmente en el clima geopolítico actual.

Los objetivos de los ataques con deepfakes pueden ser variados: difundir desinformación, chantajear, incitar al odio étnico, generar pánico entre la población, crear imágenes y videos comprometedores, robar datos confidenciales, suplantar a una persona de alto rango con fines económicos, etc. Los atacantes también pueden usar los ataques con deepfakes como medio para difundir desinformación, chantajear, incitar al odio étnico, generar pánico entre la población, crear imágenes y videos comprometedores, robar datos confidenciales, suplantar a una persona de alto rango con fines económicos, etc.

Detectar deepfakes hoy en día es una tarea difícil. Los algoritmos de IA mejoran constantemente su capacidad de generar contenido muy realista, lo que resalta la necesidad de que las organizaciones capaciten a sus empleados para reconocer deepfakes, además de implementar herramientas de software para combatir el contenido falso.

Ingeniería social

Las técnicas de ingeniería social llevan mucho tiempo siendo usadas por delincuentes, y con la adopción generalizada de la tecnología de IA, el fraude cibernético ha alcanzado niveles nuevos y sin precedentes.

Los algoritmos de IA pueden recopilar y procesar enormes cantidades de datos de usuarios provenientes de redes sociales, sitios de noticias y sitios web personales, y usar esa información para crear ataques de phishing dirigidos, es decir, orientados a una persona específica.

La tasa de éxito de estos ataques puede ser muy alta porque la IA puede automatizar el proceso de creación de mensajes persuasivos respaldados por información personal sobre los usuarios. Al mismo tiempo, los chatbots o asistentes de voz impulsados por IA pueden hacerse pasar por personas u organizaciones de confianza, lo que dificulta que las víctimas identifiquen la actividad fraudulenta.

Es importante entender que las nuevas tecnologías van por delante de la legislación. Muchos de los conceptos analizados anteriormente aún no existen a nivel normativo, por lo que exigir responsabilidad por delitos cometidos con ellos puede resultar problemático.

Dadas las circunstancias, hoy resulta mucho más sencillo y ventajoso económicamente implementar un sistema de seguridad de la información estable y confiable que enfrentar una brecha, encontrar al culpable, probar la culpabilidad en un tribunal y obtener una compensación.

Capacidades de la IA para la ciberseguridad

La inteligencia artificial y las redes neuronales en particular pueden tanto representar una amenaza para la seguridad de la información como ser una herramienta de defensa eficaz.

Cuando se trata de ciberseguridad, la inteligencia artificial tiene una ventaja clave sobre el especialista en SI — la capacidad de procesar rápidamente enormes cantidades de datos, identificar infracciones de las políticas de seguridad y establecer patrones complejos que podrían indicar un posible incidente, y responder de inmediato. La velocidad de respuesta ante incidentes de SI es fundamental.

Es importante entender que hoy en día la IA no puede reemplazar por completo a un especialista en seguridad de la información. Al mismo tiempo, el uso de tecnologías de inteligencia artificial y aprendizaje automático permite al especialista en SI actuar de forma preventiva, eliminando las amenazas de seguridad antes de que se materialicen.

Aplicaciones de la IA para la ciberseguridad

Hoy en día, la inteligencia artificial se utiliza para resolver el siguiente conjunto de tareas:

• analizar el comportamiento de los usuarios y detectar actividad sospechosa;
• detección de actividad maliciosa y diversas anomalías en el funcionamiento del sistema de información;
• control de acceso y autenticación de usuarios;
• respuesta automática a incidentes de SI; 
• identificación y prevención de amenazas a la seguridad de la información;
• detección y prevención de fugas de datos confidenciales;
• monitoreo del sistema de información en busca de amenazas de SI.

Los modelos generativos avanzados de inteligencia artificial pueden resolver problemas más complejos:

• análisis de código en busca de vulnerabilidades;
• recopilación y análisis de datos sobre amenazas actuales a la seguridad de la información;
• bloqueo de bots diseñados para atacar recursos web y aplicaciones, robar información confidencial, entre otros fines;
• búsqueda e identificación de relaciones, como el reconocimiento de correos de phishing generados por IA.

La lista de procesos que pueden automatizarse mediante IA es bastante extensa. Sin embargo, al introducir herramientas de IA en un sistema de seguridad de la información, es sumamente importante tener en cuenta sus vulnerabilidades y limitaciones potenciales.

Limitaciones y desafíos en el uso de la IA en ciberseguridad

Las herramientas de IA pueden contener vulnerabilidades propias

Por lo general, el ciclo de vida de las herramientas de IA consta de 4 etapas: diseño, desarrollo, implementación y mantenimiento. En cada una de estas etapas, pueden infiltrarse vulnerabilidades críticas que luego los grupos de ciberdelincuentes pueden explotar para eludir los mecanismos de seguridad e introducir malware en el sistema de información de la organización.

Por ejemplo, mecanismos de autenticación y autorización débiles o mal implementados ya desde las etapas de diseño y desarrollo pueden provocar fugas de información y cambios no autorizados dentro del sistema.

Durante la fase de desarrollo, los atacantes pueden explotar errores de codificación para ejecutar código arbitrario, manipular modelos de IA u obtener acceso no autorizado a los recursos del sistema.

Además, el comportamiento de un modelo de IA puede alterarse de forma deliberada o accidental, lo que provoca la ejecución de tareas no autorizadas o la generación de respuestas incorrectas. Las posibles consecuencias son diversas: acceso no autorizado, fugas de información, alteración de los datos de salida.

También es importante considerar la posibilidad de una cadena de suministro insegura. Esto significa que los componentes adquiridos de proveedores externos para desarrollar una herramienta de IA también pueden contener vulnerabilidades. Los atacantes pueden usarlas para introducir puertas traseras, malware u otro código malicioso en el sistema.

Al implementar herramientas de IA en el sistema de ciberseguridad, es importante tener en cuenta que la lista de vulnerabilidades potenciales es extensa, como lo demuestra la cantidad de incidentes identificados.

Por ejemplo, en enero de 2025 se supo que los desarrolladores del chatbot chino de inteligencia artificial DeepSeek dejaron una de sus bases de datos críticas sin protección. Esto provocó la fuga de más de un millón de registros. El historial de conversaciones de los usuarios con la red neuronal, claves secretas y partes de la API, datos de backend y otra información confidencial quedaron disponibles públicamente.

Un mes antes, expertos descubrieron una vulnerabilidad en ChatGPT — la herramienta de búsqueda de OpenAI puede ser engañada y también puede generar código malicioso si encuentra la instrucción correspondiente en un sitio web.

En junio de 2024, investigadores identificaron una vulnerabilidad grave en la plataforma de IA de código abierto Ollama. La vulnerabilidad con el identificador CVE-2024-37032, conocida como Probllama, representa una amenaza — puede explotarse para la ejecución remota de código.

Problemas de privacidad y seguridad de los datos

Según lo expuesto anteriormente, los ataques de los atacantes pueden dirigirse no solo al sistema de información, sino también a las propias herramientas de IA. El proceso de entrenamiento de los modelos de IA implica recopilar, almacenar y procesar grandes cantidades de datos con distintos grados de sensibilidad, incluida información sobre activos de TI, procesos de negocio, arquitectura del sistema de información, datos de autorización de usuarios, entre otros.

Todo esto aumenta los riesgos de fugas, pérdida de privacidad y uso indebido de los datos.

Las herramientas de IA son difíciles de implementar y personalizar

Implementar y personalizar el sistema de protección de datos mediante tecnologías de IA requiere habilidades poco comunes, en la intersección entre la ciberseguridad y la programación. Además, la aplicación de modelos de IA implica una curva de aprendizaje prolongada, teniendo en cuenta la necesidad de adaptarse a los procesos de negocio propios de cada área.

Como ejemplo de las dificultades que pueden surgir al implementar herramientas de IA, se pueden configurar reglas de seguridad para paquetes de software diseñados para monitorear automáticamente eventos de seguridad y analizar infracciones y actividad sospechosa. Un número elevado de incidentes detectados indica que las políticas antivirus no están bien configuradas. Y un número elevado de falsos positivos indica que las reglas que detectan actividad sospechosa no funcionan correctamente. Ambos casos son negativos.

Los factores descritos anteriormente resaltan la necesidad de contar con personal altamente calificado — de ahí el siguiente desafío.

Existe una escasez crítica de especialistas en SI altamente calificados en el mercado laboral

Hoy podemos observar un aumento significativo en el número de vacantes abiertas en ciberseguridad frente al número real de profesionales calificados. Según explodingtopics.com, el 57% de las empresas carecen de habilidades en ciberseguridad. Solo en Estados Unidos hay una escasez de 377,000 profesionales de ciberseguridad.

Esta brecha surgió por muchas razones, por ejemplo, debido al desarrollo tecnológico sin precedentes, la rápida digitalización de la economía y las industrias, y la transición masiva de especialistas al trabajo remoto. En pocos años, las empresas han equipado los puestos de trabajo del personal con laptops, tablets y smartphones; se han conectado aplicaciones en la nube y mucho más — todo esto puede convertirse en un punto de entrada al sistema de información de una organización y, por lo tanto, necesita protegerse.

El cibercrimen también avanza rápidamente. Los ciberataques se han vuelto más complejos, su número e intensidad han crecido, y el panorama de amenazas a la seguridad de la información también se ha ampliado considerablemente. Como se mencionó anteriormente, los ataques a los sistemas de información se realizan utilizando tecnologías de inteligencia artificial, y las medidas de seguridad implementadas en muchas empresas aún no son lo suficientemente sólidas para resistir la actividad de los grupos ciberdelincuentes.

La escasez de profesionales de ciberseguridad altamente calificados, especialmente en un perfil tan específico como la implementación y el enfrentamiento de tecnologías de IA, tiene consecuencias de gran alcance.

Así, las pequeñas empresas se verán significativamente afectadas. Las organizaciones pequeñas no pueden destinar grandes presupuestos para organizar un sistema de protección sostenible.

¿Cómo aprovecha Anexet Ultimate DLP las redes neuronales para proteger los datos de las organizaciones?

El sistema Anexet Ultimate DLP también utiliza redes neuronales para proteger los datos de la empresa.

Reconocimiento de texto en imágenes. El sistema permite analizar texto en documentos con formatos gráficos. Cuando se detectan estos datos, el sistema realiza el reconocimiento de la imagen y el análisis del texto, y aplica las políticas de seguridad a los datos reconocidos. Según la herramienta de reconocimiento de imágenes seleccionada, el sistema puede reconocer documentos con extensiones .PDF, .DJVU, .JPEG, .PNG, .GIF, .BMP y .TIF.

Reconocimiento de sellos. El sistema analiza automáticamente los documentos que circulan dentro de la red de información y verifica si contienen sellos. Si se detecta un documento con sello, Anexet Ultimate lo comparará con una muestra de referencia. Si se detecta una coincidencia, se activará el sistema conforme a las políticas de seguridad configuradas.

Reconocimiento de voz. El sistema Anexet Ultimate permite analizar llamadas de voz. Al interceptar llamadas, el sistema realizará el reconocimiento, analizará el componente de texto y aplicará las políticas de seguridad configuradas en la Consola de Usuario a los datos interceptados.

Reconocer rostros en fotos de la webcam. El sistema detecta automáticamente la presencia de una persona en las fotos de la webcam y las compara con las fotos de su cuenta. Si se detecta a un extraño u otro empleado frente a la pantalla, Anexet Ultimate enviará automáticamente una notificación a un oficial de seguridad y, si está configurado previamente, bloqueará la sesión del usuario, independientemente de si la computadora está conectada a la red o no.

En conclusión

Como se puede observar, la IA puede resolver un conjunto bastante amplio de desafíos de ciberseguridad, y esta lista solo seguirá creciendo en el futuro.

Al mismo tiempo, al organizar el sistema de seguridad de la información, es importante considerar el crecimiento exponencial de las capacidades de la inteligencia artificial y el aprendizaje automático, y con ello, el número cada vez mayor de amenazas.