Regulación de la Inteligencia Artificial (IA) y gestión de riesgos: Un nuevo marco para la innovación en el Sistema Financiero

De qué trata

Omar Bairán, CFA, FRM y CQF, expuso en la III Jornada Anual de Riesgos (18 de septiembre de 2025) cómo se regula la inteligencia artificial (IA) y qué riesgos plantea su adopción en los servicios financieros. Las opiniones son únicamente del expositor.

Las 41 diapositivas comparan la regulación de la Unión Europea (por niveles de riesgo) con el enfoque de Estados Unidos, revisan casos de implementaciones fallidas, los riesgos de la IA generativa y de los agentes de IA, un ejemplo de riesgo de modelo con una cartera de crédito sintética, la discriminación algorítmica, los marcos de gobernanza de la IA y los métodos de IA explicable.

Objetivos

• Entender el equilibrio entre protección e innovación en el diseño regulatorio de la IA.
• Identificar por qué fracasan muchos proyectos de IA y qué riesgos nuevos introduce en el sector financiero.
• Presentar los marcos de gobernanza y las técnicas de IA explicable para gestionar esos riesgos.

Ideas clave

1. La regulación de la IA debe equilibrar la protección de derechos fundamentales, la seguridad y la responsabilidad con el riesgo de frenar la innovación, encarecer la investigación y quedar obsoleta rápidamente.
2. La ley de IA de la Unión Europea clasifica los usos por nivel de riesgo: los inaceptables se prohíben y los de alto riesgo exigen registro y evaluación de conformidad; en Estados Unidos predomina una combinación de órdenes ejecutivas, leyes sectoriales y guías de agencias.
3. Un informe del MIT citado indica que 95 % de los pilotos de IA generativa en instituciones financieras no produjo ahorros ni beneficios medibles; las causas más comunes son datos deficientes (35 %), resistencia organizacional (28 %) y poco ajuste al negocio.
4. Un ejemplo con una cartera de crédito sintética muestra que optimizar solo el área bajo la curva puede dejar mal calibrada la probabilidad de incumplimiento y distorsionar la pérdida esperada.
5. La gobernanza de la IA se apoya en marcos como NIST AI RMF, ISO/IEC 42001, la ley de IA de la UE y los principios de la OCDE, y la IA explicable (LIME, SHAP o modelos interpretables) responde a la tendencia regulatoria hacia mayor transparencia.