¿Por qué es importante la explicabilidad en la Inteligencia artificial?
Los algoritmos que toman decisiones usan cada vez modelos más complejos. Sin embargo, en Europa un usuario, según la ley, puede exigir la explicación de una decisión que le afecte tomada por un algoritmo.
Esto implica que necesitamos crear modelos interpretables que nos muestren el porqué de sus decisiones
¿Qué modelos existen? Y ¿Cuál elegir?
En ocasiones los modelos interpretables no alcanzan el rendimiento suficiente, y necesitamos aplicar modelos más complejos, es cuando se aplican los llamados modelos ‘caja negra’, en caso de si poder contar con una explicación hablamos de modelos de ‘caja blanca’
Modelos ‘caja blanca’ o interpretables ¿Cuáles existen?
Son aquellos que nos permiten conocer los coeficientes, y conocer la importancia de las variables en los resultados del modelo. Podemos conocer una explicación global de su comportamiento:
- Modelos Aditivos Generalizados (GAM)
- Rule Lists
- Supersparse Linear Integer Models (SLIMs
Modelos de ‘caja negra’
Cuando necesitamos de modelos con una mayor complejidad para la toma de decisiones, es necesario realizar diferentes enfoques para poder interpretar aquellos modelos que no los son directamente. Modelos como:
- LIME Local interpretable model-agnostic model
- SHAP SHapley Additive exPlanations
- ANCHOR High-Precision Model-Agnostic Explanations
- Interpretaciones basadas en ejemplos.
¿Qué aprenderás en este descargable?
La aplicabilidad es fundamental no solo para poder cumplir la ley, sino también para entender el porqué de las decisiones que toman los algoritmos, es por eso que todo eso te lo contamos en este descargable.
- La importancia de aplicabilidad en la IA
- ¿Por qué usar modelos no explicables?
- Conoce en profundidad los modelos explicables o ‘caja blanca’
- Enfoque en modelos complejos o ‘caja negra’ y como hacerlos explicables
- Tendencias de aplicabilidad de la inteligencia artificial en el futuro
¿Qué tendencias tendrá la inteligencia artificial explicable?
La tendencia y la competitividad hace que cada vez se utilicen algoritmos más y más complejos, pero que deberán seguir siendo explicables. La interpretabilidad cobrará más importancia según se aplique el aprendizaje automático y fomentará el uso de los modelos de caja negra, dando lugar a un uso más generalizado de las técnicas de interpretación de modelos.
Todo ello te lo explicamos de manera muy entretenida en nuestro descargable que te enviaremos rellenando el formulario.
3 conocimientos inmediatos que desbloqueas con este contenido
Inteligencia artificial explicable
Interpretabilidad de IA
Aplicación de IA en empresas
