Regulación, cumplimiento y gobernanza de la inteligencia artificial: la experiencia europea

De qué trata

La nueva ley europea sobre el uso de la inteligencia artificial y la experiencia de Europa en regulación, cumplimiento y gobernanza de la IA.

Resumen de la sesión

Los dos expositores, de una consultora con experiencia en banca, explican la ley europea de inteligencia artificial, aprobada en marzo de 2024, que se aplica a todos los sectores y define la inteligencia artificial de forma muy amplia: incluye el aprendizaje automático, los sistemas expertos, los motores de decisión y ciertas técnicas estadísticas, y no solo la inteligencia artificial generativa. Su eje son los derechos fundamentales de las personas. Clasifica los sistemas por niveles de riesgo (inaceptable, alto, limitado y mínimo): prohíbe prácticas como la puntuación social o la manipulación subliminal, y exige a los sistemas de alto riesgo, entre ellos el crédito, transparencia, explicabilidad, supervisión humana, solidez técnica, ciberseguridad, calidad de los datos y registro de todas las interacciones.

Subrayan un punto relevante para la banca: si una entidad modifica o adapta una herramienta de terceros, pasa de usuaria a proveedora y asume las obligaciones de un proveedor. En la parte práctica comentan cómo prevenir sesgos que entran de forma indirecta en un modelo de crédito, que ya se ha homologado un modelo avanzado de capital hecho con aprendizaje automático, y casos de uso en el ciclo de riesgo de crédito, como revisar documentos, asistir a los gestores de recobro y auditar universos completos en lugar de muestras. Cierran con la gobernanza: autoridades nacionales y comités europeos, operación de los modelos en producción, gestión del cambio y capacitación de las personas. En las preguntas se habló de técnicas de explicabilidad como SHAP, de la responsabilidad del proveedor y de la falta de gradualidad al modificar un modelo.

Temas tratados

• Qué abarca la definición de inteligencia artificial en la ley europea
• Niveles de riesgo: prácticas prohibidas, alto riesgo y obligaciones
• Alto riesgo en banca: explicabilidad, supervisión humana, datos y registro
• Cuándo una entidad pasa de usuaria a proveedora de una herramienta
• Casos de uso en el ciclo del riesgo de crédito y prevención de sesgos
• Gobernanza: autoridades, operación de modelos y gestión del cambio
• Preguntas: técnicas de explicabilidad, responsabilidad y capacitación