Inteligencia artificial en gestión de riesgos: explicabilidad y causalidad como pilares clave

De qué trata

Cómo la inteligencia artificial está transformando la gestión de riesgos, la importancia de la IA explicativa y la implementación de modelos causales para decidir en entornos complejos y regulados.

El webinar revisa las limitaciones e inconsistencias de metodologías de explicación muy usadas, como los valores SHAP y LIME, con ejemplos de aplicaciones frecuentes, y aplica modelos causales y metodologías de explicación que incorporan la causalidad explícita de las variables.

Incluye un caso de estudio en el que la explicabilidad y la causalidad fueron fundamentales para resolver desafíos del sector financiero, y muestra cómo usar estas herramientas para prever y mitigar riesgos.

Resumen de la sesión

El expositor explica por qué la explicabilidad y la causalidad son pilares para usar inteligencia artificial en la gestión de riesgos. Repasa siete tipos de casos de uso (reconocimiento de patrones, detección de eventos, pronósticos, personalización, soporte de interacción, optimización y razonamiento con estructuras de conocimiento), los niveles de interacción entre personas y sistemas, desde la inteligencia aumentada hasta los sistemas autónomos, y la necesidad de que siempre haya una persona responsable. Sostiene que un esquema de gobierno de la inteligencia artificial debe incluir ética, transparencia, privacidad y no discriminación.

Ilustra con ejemplos que correlación no es causalidad: la correlación entre acciones y bonos cambia con el tiempo, la paradoja de Simpson muestra cómo omitir una variable cambia el signo de una relación y un modelo que clasificaba perros y lobos se guiaba por la nieve del fondo. Presenta las técnicas de inteligencia artificial explicable, modelos interpretables por naturaleza frente a herramientas posteriores como LIME y SHAP, locales o globales, y una variante de LIME con causalidad. Muestra un caso con un modelo de probabilidad de impago en el que SHAP revela que el código postal pesa lo suficiente como para generar sesgo, y un estudio sobre crisis financieras y crecimiento. En las preguntas advirtió que no hay regulación específica todavía y que estos métodos no son infalibles.

Temas tratados

• Siete tipos de casos de uso de la inteligencia artificial en finanzas
• Niveles de interacción entre personas y sistemas: de la inteligencia aumentada a la autónoma
• Gobierno de la inteligencia artificial: ética, transparencia, privacidad y responsabilidad
• Correlación y causalidad: ejemplos y variables de confusión
• Inteligencia artificial explicable: LIME, SHAP y explicaciones locales y globales
• Casos: probabilidad de impago, sesgos por código postal y crisis financieras
• Preguntas: regulación y límites de los métodos de explicación