Machine learning en la concesión de crédito: un análisis de los riesgos

De qué trata

Análisis de los riesgos de utilizar modelos de machine learning en la concesión de crédito.

Resumen de la sesión

El expositor, investigador en innovación financiera del Banco de España, retoma el webinar anterior sobre las ventajas predictivas del aprendizaje automático en el crédito y se centra en la contrapartida: la mayor complejidad algorítmica y el nuevo riesgo de modelo. Propone un marco que agrupa los factores de riesgo en tres familias (estadística, tecnología y conducta de mercado), cuyo peso cambia según el uso del modelo: concesión de crédito, capital regulatorio o provisiones. Resume que, frente a los modelos paramétricos y a las redes neuronales, los modelos basados en árboles, como los bosques aleatorios y el gradient boosting, parecen ofrecer un buen equilibrio entre capacidad predictiva y complejidad.

Dedica la mayor parte de la sesión a la interpretabilidad. Explica por qué las personas y la normativa, como la de protección del consumidor en Estados Unidos, el reglamento europeo de protección de datos y la ley europea de inteligencia artificial, exigen explicar las decisiones de crédito, y repasa las técnicas para abrir los modelos de ‘caja negra’: modelos sustitutos, importancia por permutación, gráficos de dependencia parcial, SHAP y LIME. Presenta su investigación con datos sintéticos, según la cual estas técnicas no siempre reflejan la realidad subyacente, sobre todo cuando hay mucha correlación entre variables. En las preguntas se habló de auditabilidad, del margen de error aceptable en la interpretabilidad, de los árboles de decisión, de combinar modelos, de la calidad de los datos y del costo de equivocarse.

Temas tratados

• Complejidad algorítmica y riesgo de modelo en el aprendizaje automático
• Tres familias de riesgo: estadística, tecnología y conducta de mercado
• Por qué la normativa exige explicar las decisiones de crédito
• Técnicas de interpretabilidad: permutación, dependencia parcial, SHAP y LIME
• Límites de las explicaciones: correlación entre variables y datos sintéticos
• Auditabilidad de los modelos y un mundo probabilístico para la supervisión
• Preguntas: árboles de decisión, combinar modelos, datos y costo de los errores