¿Qué es la Inteligencia artificial explicable (XAI) y por qué es tan importante?

Casi todas las plataformas de entretenimiento actuales tienen un sistema de recomendación. YouTube te recomienda nuevos vídeos, Instagram te recomienda nuevos perfiles para seguir y Spotify te recomienda nuevas canciones. Todo esto es gracias a la inteligencia artificial.

Estos algoritmos de inteligencia artificial usan metadatos y estudian patrones de comportamiento de los usuarios. Pero, ¿cómo funcionan estas recomendaciones? En realidad es bastante complicado saber cómo funciona esta inteligencia artificial, la mayoría de las empresas usan procesos y algoritmos internos que nunca llegan a publicarse, siendo estos mismos activos intangibles muy importantes para esas compañías.

Pero, ¿de verdad es un tema de interés saber cómo se obtienen esas recomendaciones?

Es bastante probable que el usuario de a pie no preste atención al funcionamiento de la inteligencia artificial, pero hay muchos algoritmos que toman decisiones de nuestro día a día de los que no somos conscientes y tienen importantes efectos en nuestra vida. En el sector bancario, las empresas tienen algoritmos de IA que calculan si un cliente será capaz de hacer frente a una hipoteca u otro tipo de préstamos.

Por esta razón, es importante entender cómo funciona la IA para entender las decisiones que toman, y aún más importante, las razones por las que las toman.

Los modelos de Inteligencia Artificial y el aprendizaje automático

Los algoritmos tradicionales dependían de quien determinaba cómo interactúan las distintas variables y, por tanto, toman decisiones sobre las variables que devuelven un resultado basado en la programación que ha hecho una persona. Cuando se diseña un algoritmo de esta manera, es posible que el algoritmo esté sesgado, simplemente por fallos humanos.

Para solucionar ese problema entran en juego los modelos de aprendizaje automático. En estos modelos se obtienen predicciones y decisiones que provienen de procesos de aprendizaje que requieren escasa intervención humana, reduciendo drásticamente la probabilidad de un sesgo proveniente de un programador. Esto tampoco está exento de problemas, ya que el algoritmo puede entrenarse con un conjunto de datos que no represente con fiabilidad a la población para la que se ha diseñado.

En el ejemplo anterior, en el proceso de concesión de un préstamo, cuando un algoritmo analiza la capacidad de devolución del solicitante, debemos garantizar su imparcialidad y transparencia. Si no gestionamos correctamente estos sesgos, podríamos obtener un algoritmo que discrimina de una forma poco ética, como por cuestiones de género, raza, edad o lugar de residencia.

¿Cómo podemos solucionar estos problemas? Una de las posibles soluciones es usar la denominada IA explicable o XAI, cuyas siglas en inglés significan Explainable Artificial Intelligence.

¿Qué es la IA explicable?

Que una IA sea explicable significa que se comprende cómo y por qué el algoritmo toma las decisiones o realiza las predicciones y que se tiene la capacidad de justificar los resultados que produce.

Existen dos tipos de explicaciones: las globales y las locales.

En primer lugar tenemos las explicaciones globales, estas sirven para describir el comportamiento del algoritmo en general. En el caso de una plataforma de streaming como Netflix o Prime Video, su motor de recomendaciones no propondrá una película excesivamente larga justo antes de la hora de dormir. En el caso del préstamo, el algoritmo supondrá que un cliente con una deuda elevada tendrá dificultades para asumir más compromisos de pago.

Por otro lado tenemos las explicaciones locales, que en este caso se usan para explicar el comportamiento del algoritmo para casos más concretos y personalizados. En este caso tendremos en cuenta el perfil individual de cada usuario, en el que puede haber variaciones frente a las recomendaciones globales. En este caso nuestro usuario de Netflix puede ser un consumidor nocturno que no tiene problemas en ver una película larga hasta altas horas de la madrugada, o en el caso del banco, que nuestro cliente tenga un trabajo bastante estable y seguro, con lo que no tendría problemas para afrontar la deuda.

Para aprovechar las oportunidades que nos ofrece la IA, debemos ser capaces de explicar las decisiones que hay detrás de un algoritmo, así podremos ofrecer a nuestros clientes consejos imparciales que les ayudarán a superar sus dificultades y a mejorar su calidad de vida.

Noticias y Publicaciones

Cómo patrocinar Codemotion online y no morir en el intento. Impresiones desde las “trincheras”

Cómo patrocinar Codemotion online y no morir en el intento. Impresiones desde las “trincheras”

“Madre mía, ¡en la que me he metido!” Eso fue lo que pensé cuando me di cuenta de que iba tener que representar a OpenSistemas en el Codemotion 2020. Cuando nos ofrecieron ser sponsors de Codemotion, la decisión fue fácil. Sabíamos por otras ediciones que la organización era sólida, que el nivel ...
Tendencias de inteligencia artificial que no puedes perderte

Tendencias de inteligencia artificial que no puedes perderte

Tendencias de inteligencia artificial que no puedes perderte Una gran cantidad de empresas apuestan cada vez más por la Inteligencia Artificial. Con la IA pueden mejorar sus procesos y gestionar la atención al cliente de una forma más eficiente, al igual que hay muchas investigaciones en marcha ...
¿Qué es la Inteligencia artificial explicable (XAI) y por qué es tan importante?

¿Qué es la Inteligencia artificial explicable (XAI) y por qué es tan importante?

Casi todas las plataformas de entretenimiento actuales tienen un sistema de recomendación. YouTube te recomienda nuevos vídeos, Instagram te recomienda nuevos perfiles para seguir y Spotify te recomienda nuevas canciones. Todo esto es gracias a la inteligencia artificial. Estos algoritmos de ...

Al hacer clic en "Aceptar todas las cookies", acepta que las cookies se guarden en su dispositivo para mejorar la navegación del sitio, analizar el uso del sitio y colaborar con nuestros estudios de marketing.    Política de Cookies

Los ajustes de cookies en esta web están configurados para «permitir las cookies» y ofrecerte la mejor experiencia de navegación posible. Si sigues usando esta web sin cambiar tus ajustes de cookies o haces clic en «Aceptar», estarás dando tu consentimiento a esto.

Cerrar