¿Qué es la Inteligencia artificial explicable (XAI) y por qué es tan importante?

Qué es la Inteligencia artificial explicable (XAI)

Casi todas las plataformas de entretenimiento actuales tienen un sistema de recomendación. YouTube te recomienda nuevos vídeos, Instagram te recomienda nuevos perfiles para seguir y Spotify te recomienda nuevas canciones. Todo esto es gracias a la inteligencia artificial.

Estos algoritmos de inteligencia artificial usan metadatos y estudian patrones de comportamiento de los usuarios. Pero, ¿cómo funcionan estas recomendaciones? En realidad es bastante complicado saber cómo funciona esta inteligencia artificial, la mayoría de las empresas usan procesos y algoritmos internos que nunca llegan a publicarse, siendo estos mismos activos intangibles muy importantes para esas compañías.

Pero, ¿de verdad es un tema de interés saber cómo se obtienen esas recomendaciones?

Es bastante probable que el usuario de a pie no preste atención al funcionamiento de la inteligencia artificial. Aun así, hay muchos algoritmos que toman decisiones de nuestro día a día de los que no somos conscientes. Sin darnos cuenta, la IA tiene un importante efecto en nuestra vida. Un claro ejemplo de esto se da en el sector bancario. Las empresas tienen algoritmos de IA que calculan si un cliente será capaz de hacer frente a una hipoteca u otro tipo de préstamos.

Por esta razón, es importante entender cómo funciona la IA para entender las decisiones que toman, y aún más importante, las razones por las que las toman.

Los modelos de Inteligencia Artificial y el aprendizaje automático

Los algoritmos tradicionales dependían de quien determinaba cómo interactúan las distintas variables y, por tanto, toman decisiones sobre las variables que devuelven un resultado basado en la programación que ha hecho una persona. Cuando se diseña un algoritmo de esta manera, es posible que el algoritmo esté sesgado, simplemente por fallos humanos.

Para solucionar ese problema entran en juego los modelos de aprendizaje automático. En estos modelos se obtienen predicciones y decisiones que provienen de procesos de aprendizaje que requieren escasa intervención humana, reduciendo drásticamente la probabilidad de un sesgo proveniente de un programador. Esto tampoco está exento de problemas, ya que el algoritmo puede entrenarse con un conjunto de datos que no represente con fiabilidad a la población para la que se ha diseñado.

En el ejemplo anterior, en el proceso de concesión de un préstamo, cuando un algoritmo analiza la capacidad de devolución del solicitante, debemos garantizar su imparcialidad y transparencia. Si no gestionamos correctamente estos sesgos, podríamos obtener un algoritmo que discrimina de una forma poco ética, como por cuestiones de género, raza, edad o lugar de residencia.

¿Cómo podemos solucionar estos problemas? Una de las posibles soluciones es usar la denominada IA explicable o XAI, cuyas siglas en inglés significan Explainable Artificial Intelligence.

¿Qué es la Inteligencia artificial explicable?

Que una IA sea explicable significa que se comprende cómo y por qué el algoritmo toma las decisiones o realiza las predicciones y que se tiene la capacidad de justificar los resultados que produce.

Existen dos tipos de explicaciones: las globales y las locales.

Para empezar tenemos las explicaciones globales, estas sirven para describir el comportamiento del algoritmo en general. Podemos verlo en el caso de una plataforma de streaming como Netflix o Prime Video. Su motor de recomendaciones no propondrá una película excesivamente larga justo antes de la hora de dormir. En el caso del préstamo, el algoritmo supondrá que un cliente con una deuda elevada tendrá dificultades para asumir más compromisos de pago.

Por otro lado tenemos las explicaciones locales, que en este caso se usan para explicar el comportamiento del algoritmo para casos más concretos y personalizados. En este caso tendremos en cuenta el perfil individual de cada usuario, en el que puede haber variaciones frente a las recomendaciones globales. En este caso nuestro usuario de Netflix puede ser un consumidor nocturno que no tiene problemas en ver una película larga hasta altas horas de la madrugada, o en el caso del banco, que nuestro cliente tenga un trabajo bastante estable y seguro, con lo que no tendría problemas para afrontar la deuda.

Para aprovechar las oportunidades que nos ofrece la IA, debemos ser capaces de explicar las decisiones que hay detrás de un algoritmo, así podremos ofrecer a nuestros clientes consejos imparciales que les ayudarán a superar sus dificultades y a mejorar su calidad de vida.

Noticias y Publicaciones

IA y Data Intelligence, las propuestas de OpenSistemas y neuroons en el Madrid Tech Show

IA y Data Intelligence, las propuestas de OpenSistemas y neuroons en el Madrid Tech Show

OpenSistemas y su filial neuroons presentan sus últimas soluciones en la zonaBig Data & AI World del mayor encuentro tecnológico del año en España Tras muchos meses de parón, los eventos profesionales presenciales vuelven a celebrarse y OpenSistemas no podía perderse el mayor encuentro tecnol ...
Qué es el modelo SaaS y ejemplos para negocios

Qué es el modelo SaaS y ejemplos para negocios

Con el modelo SaaS dejamos atrás los tiempos en los que teníamos que instalar físicamente un software y comprar una licencia para poder utilizarlo.  En este post vamos a ver cómo se utiliza esta variante del software cloud, qué ventajas tiene y algunas buenas plataformas saas y ejemplos que pueden ...
Nueva herramienta contra sesgos en la inteligencia artificial de Google

Nueva herramienta contra sesgos en la inteligencia artificial de Google

Que los algoritmos de inteligencia artificial de Google y otras empresas resultaran discriminatorios por razones de raza o género impactó a toda la comunidad tecnológica. ¿Cómo podía ser? Pues bien, el gigante tecnológico acaba de lanzar Know Your Data, una herramienta que pretende poner fin al ...