¿Qué es la Inteligencia artificial explicable (XAI) y por qué es tan importante?

Qué es la Inteligencia artificial explicable (XAI)

Casi todas las plataformas de entretenimiento actuales tienen un sistema de recomendación. YouTube te recomienda nuevos vídeos, Instagram te recomienda nuevos perfiles para seguir y Spotify te recomienda nuevas canciones. Todo esto es gracias a la inteligencia artificial.

Estos algoritmos de inteligencia artificial usan metadatos y estudian patrones de comportamiento de los usuarios. Pero, ¿cómo funcionan estas recomendaciones? En realidad es bastante complicado saber cómo funciona esta inteligencia artificial, la mayoría de las empresas usan procesos y algoritmos internos que nunca llegan a publicarse, siendo estos mismos activos intangibles muy importantes para esas compañías.

Pero, ¿de verdad es un tema de interés saber cómo se obtienen esas recomendaciones?

Es bastante probable que el usuario de a pie no preste atención al funcionamiento de la inteligencia artificial. Aun así, hay muchos algoritmos que toman decisiones de nuestro día a día de los que no somos conscientes. Sin darnos cuenta, la IA tiene un importante efecto en nuestra vida. Un claro ejemplo de esto se da en el sector bancario. Las empresas tienen algoritmos de IA que calculan si un cliente será capaz de hacer frente a una hipoteca u otro tipo de préstamos.

Por esta razón, es importante entender cómo funciona la IA para entender las decisiones que toman, y aún más importante, las razones por las que las toman.

Los modelos de Inteligencia Artificial y el aprendizaje automático

Los algoritmos tradicionales dependían de quien determinaba cómo interactúan las distintas variables y, por tanto, toman decisiones sobre las variables que devuelven un resultado basado en la programación que ha hecho una persona. Cuando se diseña un algoritmo de esta manera, es posible que el algoritmo esté sesgado, simplemente por fallos humanos.

Para solucionar ese problema entran en juego los modelos de aprendizaje automático. En estos modelos se obtienen predicciones y decisiones que provienen de procesos de aprendizaje que requieren escasa intervención humana, reduciendo drásticamente la probabilidad de un sesgo proveniente de un programador. Esto tampoco está exento de problemas, ya que el algoritmo puede entrenarse con un conjunto de datos que no represente con fiabilidad a la población para la que se ha diseñado.

En el ejemplo anterior, en el proceso de concesión de un préstamo, cuando un algoritmo analiza la capacidad de devolución del solicitante, debemos garantizar su imparcialidad y transparencia. Si no gestionamos correctamente estos sesgos, podríamos obtener un algoritmo que discrimina de una forma poco ética, como por cuestiones de género, raza, edad o lugar de residencia.

¿Cómo podemos solucionar estos problemas? Una de las posibles soluciones es usar la denominada IA explicable o XAI, cuyas siglas en inglés significan Explainable Artificial Intelligence.

¿Qué es la Inteligencia artificial explicable?

Que una IA sea explicable significa que se comprende cómo y por qué el algoritmo toma las decisiones o realiza las predicciones y que se tiene la capacidad de justificar los resultados que produce.

Existen dos tipos de explicaciones: las globales y las locales.

Para empezar tenemos las explicaciones globales, estas sirven para describir el comportamiento del algoritmo en general. Podemos verlo en el caso de una plataforma de streaming como Netflix o Prime Video. Su motor de recomendaciones no propondrá una película excesivamente larga justo antes de la hora de dormir. En el caso del préstamo, el algoritmo supondrá que un cliente con una deuda elevada tendrá dificultades para asumir más compromisos de pago.

Por otro lado tenemos las explicaciones locales, que en este caso se usan para explicar el comportamiento del algoritmo para casos más concretos y personalizados. En este caso tendremos en cuenta el perfil individual de cada usuario, en el que puede haber variaciones frente a las recomendaciones globales. En este caso nuestro usuario de Netflix puede ser un consumidor nocturno que no tiene problemas en ver una película larga hasta altas horas de la madrugada, o en el caso del banco, que nuestro cliente tenga un trabajo bastante estable y seguro, con lo que no tendría problemas para afrontar la deuda.

Para aprovechar las oportunidades que nos ofrece la IA, debemos ser capaces de explicar las decisiones que hay detrás de un algoritmo, así podremos ofrecer a nuestros clientes consejos imparciales que les ayudarán a superar sus dificultades y a mejorar su calidad de vida.

Noticias y Publicaciones

Cómo ser ingeniero de datos: funciones, skills y salario

Cómo ser ingeniero de datos: funciones, skills y salario

¿Quieres aprender sobre uno de los perfiles más demandados en el mercado laboral? En este artículo te contamos como ser ingeniero de datos. ...
Cómo retener talento sin recurrir al dinero usando el salario emocional

Cómo retener talento sin recurrir al dinero usando el salario emocional

Viajes, salud, formación, mascotas... Aprende a usar el salario emocional para fidelizar empleados, como ya lo están haciendo otras empresas. ...
¿Es recomendable externalizar servicios? + Ejemplos de outsourcing

¿Es recomendable externalizar servicios? + Ejemplos de outsourcing

Conoce os argumentos a favor de de externalizar servicios y ejemplos de outsourcing fácil ...
Scrum Master: quién es, qué hace y skills necesarias

Scrum Master: quién es, qué hace y skills necesarias

Una figura clave para llevar a cabo proyectos grandes: facilita el éxito del equipo y el desarrollo rápido de los proyectos. Veamos en qué consiste este rol. ...
Nuestros equipos de España, Colombia y Paraguay, más unidos que nunca

Nuestros equipos de España, Colombia y Paraguay, más unidos que nunca

Esta semana Luis Flores, CEO, y Pamela Castro, Strategic Planning Office Director, han viajado a Colombia y a Paraguay en el marco de una misión comercial con el ICEX. Os dejamos un breve resumen de lo que han sido estos días allí, y que nos contarán más en detalle en nuestro próximo Open Town& ...