Unsupervised: las tres caras del riesgo de IA en ciberseguridad

De qué trata

Jorge Litvin, fundador y CEO de Safe-U, presentó en la IV Jornada Anual de Riesgos (17 de septiembre de 2026) las tres caras del riesgo de la inteligencia artificial en ciberseguridad: la amenaza que usa el atacante, el riesgo que nace dentro de la propia organización y la oportunidad de usarla para defender.

Las 38 diapositivas visibles (hay tres ocultas que no se incluyen) explican primero por qué el riesgo de IA es distinto: opacidad, autonomía, responsabilidad repartida, escala y velocidad, y resultados probabilísticos. Desde el lado del atacante, la IA baja la barrera de acceso, potencia a los expertos y multiplica la capacidad de ataque, y el criminal no espera la política, el presupuesto ni la aprobación de la organización. El segundo rostro es el interno: con ceros atacantes, ceros malware y ceros exploits, una IA con contexto incorrecto, acceso o autoridad excesivos, instrucciones ambiguas, memoria persistente o cadenas de agentes puede dañar a la empresa haciendo exactamente lo que tenía permitido. La presentación propone ver a la IA como un sistema que sabe, decide y actúa, y mira el Shadow AI no como un riesgo sino como la condición que habilita varios.

La tercera parte usa la IA para el bien: una escala de cinco etapas de madurez de la seguridad basada en IA, el consejo de no gastar en controles de IA sin saber qué riesgo se va a gestionar, el método AI.uda (descubrir, entender, decidir, habilitar, observar y ajustar), un ejemplo de inventario de usos, los marcos de gobierno (GDPR, principios de la OCDE, EU AI Act, NIST AI RMF e ISO/IEC 42001) y el paso de la supervisión humana a que el humano sea el ciclo. Termina con que la ciberseguridad no es un desafío tecnológico sino humano y de liderazgo.

Objetivos

• Explicar por qué el riesgo de IA es diferente (opacidad, autonomía, escala y resultados probabilísticos) y cómo lo aprovechan los atacantes.
• Mostrar el riesgo interno: sistemas de IA que, sin ningún atacante, hacen lo que tenían permitido y dañan, y el Shadow AI como condición que lo habilita.
• Dar un método para gobernar y madurar la seguridad basada en IA, con marcos de referencia y un inventario de usos.

Ideas clave

1. Para el atacante, la IA baja la barrera de acceso, potencia las habilidades de los expertos y multiplica la capacidad de ataque: segmentar víctimas, buscar sistemas vulnerables, phishing, malware y suplantación de rostros y voces.
2. El riesgo crece cuando la autonomía y los privilegios aumentan a la vez; no es lo mismo un chatbot que un agente autónomo con acceso a varios sistemas.
3. Según la presentación, una de cada cinco organizaciones que sufrieron brechas las originó por Shadow AI, el uso de IA fuera de los mecanismos formales de gobierno.
4. La madurez de la seguridad basada en IA tiene cinco etapas, de ad hoc a optimizada y adaptativa, y no conviene gastar en controles de IA sin saber qué riesgo se va a gestionar.
5. Los marcos mencionados son GDPR, los principios de la OCDE, el EU AI Act, el NIST AI RMF y la norma ISO/IEC 42001, junto con la revisión de cada uso cada 90 días o ante un cambio de permisos o de modelo.