La IA explicable en banca reúne técnicas, controles y procesos que permiten comprender por qué un modelo genera una predicción y decidir si su resultado puede utilizarse de forma responsable. No basta con producir una explicación visual: debe ser fiel al modelo, útil para cada destinatario y estar acompañada de trazabilidad, validación, supervisión humana y límites de uso.
¿Qué es la IA explicable y qué debe explicar?
La Explainable Artificial Intelligence (XAI) busca que las personas puedan interpretar el comportamiento y los resultados de un sistema de inteligencia artificial. Una explicación puede describir el funcionamiento general del modelo —explicabilidad global— o justificar una predicción concreta —explicabilidad local—.
El NIST propone cuatro principios: el sistema debe aportar una explicación, esa explicación debe ser significativa para su destinatario, debe reflejar correctamente el proceso que genera el resultado y el sistema debe reconocer sus límites de conocimiento. Esta distinción es esencial: una explicación fácil de leer, pero infiel al modelo, puede generar una confianza peligrosa.
Por qué la explicabilidad importa en banca
En banca, los modelos pueden apoyar procesos de riesgo, fraude, prevención de blanqueo, segmentación o atención al cliente. Cuando una salida influye en una decisión relevante, la organización necesita responder al menos a cuatro preguntas: qué datos influyeron, con qué intensidad, bajo qué condiciones funciona el modelo y quién puede revisar o contradecir el resultado.
- Negocio: entender los principales impulsores de una decisión y sus límites.
- Validación y riesgo: comprobar estabilidad, sesgo, robustez y coherencia con la política interna.
- Auditoría y supervisión: reconstruir qué versión del modelo y qué datos produjeron cada resultado.
- Persona afectada: recibir una explicación comprensible y adecuada al contexto, no una descarga de variables técnicas.
La Autoridad Bancaria Europea incluye explicabilidad e interpretabilidad entre los elementos de confianza para el uso de Big Data y analítica avanzada. El objetivo no es sustituir el control humano por una gráfica, sino facilitar comprensión, validación y rendición de cuentas.
Técnicas de XAI: qué aportan y qué no
Modelos interpretables desde el diseño
Regresiones, árboles pequeños, reglas o modelos aditivos pueden facilitar una interpretación directa. Son útiles cuando la claridad y la auditabilidad pesan tanto como el rendimiento. Sin embargo, que un modelo sea sencillo no garantiza que sus datos sean adecuados, que no exista sesgo o que la decisión sea correcta.
Explicaciones posteriores a la predicción
Métodos como SHAP o LIME estiman la contribución de las variables a una salida. Ayudan a detectar patrones, comparar casos y comunicar resultados, pero son aproximaciones: su estabilidad y fidelidad deben comprobarse. Una explicación local tampoco describe necesariamente el comportamiento global del modelo.
Visualización, contrafactuales y ejemplos
La visualización de datos permite explorar distribuciones, relaciones y anomalías. Los contrafactuales responden a preguntas como «¿qué tendría que cambiar para obtener otro resultado?». Deben diseñarse con restricciones realistas para no sugerir cambios imposibles o discriminatorios.
El caso Bankia: una referencia histórica, no una situación actual
Este artículo nació en 2020 a partir de una conversación con Jaime Zamora, entonces miembro del Centro de Excelencia en IA de Bankia. El testimonio describía una práctica que sigue siendo relevante: incorporar controles posteriores al procesamiento, comprender qué entra y qué sale de cada componente del pipeline y evitar que el uso de librerías sustituya al conocimiento matemático del modelo.
«Un flujo de procesamiento de control posterior nos permite asegurarnos de la correcta toma de las decisiones de nuestros modelos de IA».
La referencia debe leerse en su contexto histórico. Bankia dejó de operar como entidad independiente tras completarse su fusión legal con CaixaBank en marzo de 2021. Por tanto, no es correcto presentar hoy aquellas iniciativas como actividad vigente de Bankia ni atribuirlas automáticamente a la organización resultante.
Explicabilidad, transparencia y Reglamento Europeo de IA
El Reglamento (UE) 2024/1689 adopta un enfoque basado en riesgo. Para los sistemas de alto riesgo, el artículo 13 exige un grado de transparencia que permita a los responsables del despliegue interpretar la salida y utilizarla adecuadamente; también exige información sobre capacidades, limitaciones, precisión y medidas de supervisión humana.
La Comisión Europea confirma que el Reglamento es aplicable desde el 2 de agosto de 2026, con excepciones y calendarios específicos. Esto no convierte cualquier explicación de SHAP en una prueba de cumplimiento. La clasificación del sistema, el papel de la organización y la normativa sectorial deben evaluarse para cada caso.
Cómo implantar explicabilidad de forma operativa
- Definir la decisión y el riesgo: documentar propósito, personas afectadas y consecuencias del error.
- Identificar destinatarios: negocio, validación, auditoría, supervisión y cliente necesitan explicaciones diferentes.
- Elegir el nivel de explicación: global para gobernar el modelo y local para revisar casos concretos.
- Validar la explicación: medir fidelidad, estabilidad, sensibilidad y utilidad con usuarios reales.
- Registrar el contexto: versión del modelo, datos, parámetros, salida, explicación y actuación humana.
- Monitorizar en producción: vigilar deriva, calidad, sesgos, incidencias y cambios en las variables influyentes.
Este enfoque conecta la explicabilidad con una estrategia de IA confiable y con la gestión del ciclo de vida. La prioridad es aplicar controles proporcionales al riesgo, documentar decisiones y conservar la capacidad humana de revisión.
Preguntas frecuentes sobre IA explicable en banca
¿Explicabilidad y transparencia son lo mismo?
No. La explicabilidad se centra en comprender resultados o comportamientos del modelo. La transparencia es más amplia e incluye propósito, datos, limitaciones, documentación, responsables, supervisión y comunicación a las personas afectadas.
¿Usar SHAP o LIME hace que un modelo sea confiable?
No. Estas técnicas pueden aportar información útil, pero no demuestran por sí solas exactitud, equidad, robustez, seguridad ni cumplimiento. La explicación también debe validarse y combinarse con gobierno y monitorización.
¿Siempre conviene elegir el modelo más interpretable?
Depende del riesgo, los datos y el rendimiento requerido. La decisión debe comparar precisión, robustez, interpretabilidad y capacidad de control. En usos sensibles, una pequeña mejora predictiva puede no justificar una pérdida material de comprensión.
¿Qué convierte una explicación en útil?
Debe responder a la pregunta del destinatario, usar un lenguaje adecuado, ser fiel al comportamiento del sistema, declarar incertidumbre y permitir una acción: revisar datos, corregir un error, solicitar intervención humana o limitar el uso del modelo.
