logo de open sistemas en blanco

¿Qué es la Inteligencia artificial explicable (XAI) y por qué es tan importante?

Tabla de contenidos

Casi todas las plataformas de entretenimiento actuales tienen un sistema de recomendación. YouTube te recomienda nuevos vídeos, Instagram te recomienda nuevos perfiles para seguir y Spotify te recomienda nuevas canciones. Todo esto gracias a la inteligencia artificial explicable.

Estos algoritmos de inteligencia artificial usan metadatos y estudian patrones de comportamiento de los usuarios. Pero, ¿cómo funcionan estas recomendaciones? En realidad es bastante complicado saber cómo funciona esta inteligencia artificial, la mayoría de las empresas usan procesos y algoritmos internos que nunca llegan a publicarse, siendo estos mismos activos intangibles muy importantes para esas compañías.

Pero, ¿de verdad es un tema de interés saber cómo se obtienen esas recomendaciones?

Es bastante probable que el usuario de a pie no preste atención al funcionamiento de la inteligencia artificial. Aun así, hay muchos algoritmos que toman decisiones de nuestro día a día de los que no somos conscientes. Sin darnos cuenta, la IA tiene un importante efecto en nuestra vida. Un claro ejemplo de esto se da en el sector bancario. Las empresas tienen algoritmos de IA que calculan si un cliente será capaz de hacer frente a una hipoteca u otro tipo de préstamos.

Por esta razón, es importante entender cómo funciona la IA para entender las decisiones que toman, y aún más importante, las razones por las que las toman.

Los modelos de Inteligencia Artificial y el aprendizaje automático

Los algoritmos tradicionales dependían de quien determinaba cómo interactúan las distintas variables y, por tanto, toman decisiones sobre las variables que devuelven un resultado basado en la programación que ha hecho una persona. Cuando se diseña un algoritmo de esta manera, es posible que el algoritmo esté sesgado, simplemente por fallos humanos.

Para solucionar ese problema entran en juego los modelos de aprendizaje automático. En estos modelos se obtienen predicciones y decisiones que provienen de procesos de aprendizaje que requieren escasa intervención humana, reduciendo drásticamente la probabilidad de un sesgo proveniente de un programador. Esto tampoco está exento de problemas, ya que el algoritmo puede entrenarse con un conjunto de datos que no represente con fiabilidad a la población para la que se ha diseñado.

En el ejemplo anterior, en el proceso de concesión de un préstamo, cuando un algoritmo analiza la capacidad de devolución del solicitante, debemos garantizar su imparcialidad y transparencia. Si no gestionamos correctamente estos sesgos, podríamos obtener un algoritmo que discrimina de una forma poco ética, como por cuestiones de género, raza, edad o lugar de residencia.

¿Cómo podemos solucionar estos problemas? Una de las posibles soluciones es usar la denominada IA explicable o XAI, cuyas siglas en inglés significan Explainable Artificial Intelligence.

¿Qué es la Inteligencia artificial explicable?

inteligencia artificial explicable 2

Que una IA sea explicable significa que se comprende cómo y por qué el algoritmo toma las decisiones o realiza las predicciones y que se tiene la capacidad de justificar los resultados que produce.

Existen dos tipos de explicaciones: las globales y las locales.

Para empezar tenemos las explicaciones globales, estas sirven para describir el comportamiento del algoritmo en general. Podemos verlo en el caso de una plataforma de streaming como Netflix o Prime Video. Su motor de recomendaciones no propondrá una película excesivamente larga justo antes de la hora de dormir. En el caso del préstamo, el algoritmo supondrá que un cliente con una deuda elevada tendrá dificultades para asumir más compromisos de pago.

Por otro lado tenemos las explicaciones locales, que en este caso se usan para explicar el comportamiento del algoritmo para casos más concretos y personalizados. En este caso tendremos en cuenta el perfil individual de cada usuario, en el que puede haber variaciones frente a las recomendaciones globales. En este caso nuestro usuario de Netflix puede ser un consumidor nocturno que no tiene problemas en ver una película larga hasta altas horas de la madrugada, o en el caso del banco, que nuestro cliente tenga un trabajo bastante estable y seguro, con lo que no tendría problemas para afrontar la deuda.

Fundamentos de la Inteligencia Artificial Explicable

Ahora bien, hablemos de cómo la inteligencia artificial explicable marca la diferencia en comparación con su contraparte más convencional.

para no solo tomar decisiones, sino también explicar el proceso detrás de esas decisiones de manera comprensible para nosotros, los humanos. Es decir en lugar de solo presentarte algo al final, la inteligencia artificial se muestra más trasparente y explicativa, proporcionando un paso a paso de cada característica que contribuya a la salida final.

Este enfoque transparente implica que cada componente del modelo, ya sea una característica específica o un peso en la red neuronal, se puede seguir y entender.

Reflexión

A medida que evoluciona la inteligencia artificial explicable es emocionante pensar en su aplicación en diferentes campos. Desde la medicina hasta el entretenimiento, podríamos estar presenciando un cambio significativo en cómo aprovechamos la IA para mejorar nuestra vida. Este futuro no solo implicaría una mayor transparencia en la toma de decisiones, sino también una mejora continua en los algoritmos para adaptarse a las complejidades del mundo real.

Para aprovechar las oportunidades que nos ofrece la IA, debemos ser capaces de explicar las decisiones que hay detrás de un algoritmo, así podremos ofrecer a nuestros clientes consejos imparciales que les ayudarán a superar sus dificultades y a mejorar su calidad de vida.

contacta

Desarrolla tu siguiente proyecto de Data, IA, Cloud o Transformación Digital con nosotros. Empieza hablando con nuestro equipo comercial.

Tech Matters

La Newsletter mensual para conocer los proyectos de tecnología e inteligencia artificial que están teniendo un impacto positivo en el mundo.

Plazas limitadas

Próximo evento
Lead&Inspire: Aplicación de IA en entornos de desarrollo de software
foto-de-ponentes-del-evento-lead-inspire-nov-23