¿Qué es la Inteligencia artificial explicable (XAI) y por qué es tan importante?

Qué es la Inteligencia artificial explicable (XAI)

Casi todas las plataformas de entretenimiento actuales tienen un sistema de recomendación. YouTube te recomienda nuevos vídeos, Instagram te recomienda nuevos perfiles para seguir y Spotify te recomienda nuevas canciones. Todo esto es gracias a la inteligencia artificial.

Estos algoritmos de inteligencia artificial usan metadatos y estudian patrones de comportamiento de los usuarios. Pero, ¿cómo funcionan estas recomendaciones? En realidad es bastante complicado saber cómo funciona esta inteligencia artificial, la mayoría de las empresas usan procesos y algoritmos internos que nunca llegan a publicarse, siendo estos mismos activos intangibles muy importantes para esas compañías.

Pero, ¿de verdad es un tema de interés saber cómo se obtienen esas recomendaciones?

Es bastante probable que el usuario de a pie no preste atención al funcionamiento de la inteligencia artificial. Aun así, hay muchos algoritmos que toman decisiones de nuestro día a día de los que no somos conscientes. Sin darnos cuenta, la IA tiene un importante efecto en nuestra vida. Un claro ejemplo de esto se da en el sector bancario. Las empresas tienen algoritmos de IA que calculan si un cliente será capaz de hacer frente a una hipoteca u otro tipo de préstamos.

Por esta razón, es importante entender cómo funciona la IA para entender las decisiones que toman, y aún más importante, las razones por las que las toman.

Los modelos de Inteligencia Artificial y el aprendizaje automático

Los algoritmos tradicionales dependían de quien determinaba cómo interactúan las distintas variables y, por tanto, toman decisiones sobre las variables que devuelven un resultado basado en la programación que ha hecho una persona. Cuando se diseña un algoritmo de esta manera, es posible que el algoritmo esté sesgado, simplemente por fallos humanos.

Para solucionar ese problema entran en juego los modelos de aprendizaje automático. En estos modelos se obtienen predicciones y decisiones que provienen de procesos de aprendizaje que requieren escasa intervención humana, reduciendo drásticamente la probabilidad de un sesgo proveniente de un programador. Esto tampoco está exento de problemas, ya que el algoritmo puede entrenarse con un conjunto de datos que no represente con fiabilidad a la población para la que se ha diseñado.

En el ejemplo anterior, en el proceso de concesión de un préstamo, cuando un algoritmo analiza la capacidad de devolución del solicitante, debemos garantizar su imparcialidad y transparencia. Si no gestionamos correctamente estos sesgos, podríamos obtener un algoritmo que discrimina de una forma poco ética, como por cuestiones de género, raza, edad o lugar de residencia.

¿Cómo podemos solucionar estos problemas? Una de las posibles soluciones es usar la denominada IA explicable o XAI, cuyas siglas en inglés significan Explainable Artificial Intelligence.

¿Qué es la Inteligencia artificial explicable?

Que una IA sea explicable significa que se comprende cómo y por qué el algoritmo toma las decisiones o realiza las predicciones y que se tiene la capacidad de justificar los resultados que produce.

Existen dos tipos de explicaciones: las globales y las locales.

Para empezar tenemos las explicaciones globales, estas sirven para describir el comportamiento del algoritmo en general. Podemos verlo en el caso de una plataforma de streaming como Netflix o Prime Video. Su motor de recomendaciones no propondrá una película excesivamente larga justo antes de la hora de dormir. En el caso del préstamo, el algoritmo supondrá que un cliente con una deuda elevada tendrá dificultades para asumir más compromisos de pago.

Por otro lado tenemos las explicaciones locales, que en este caso se usan para explicar el comportamiento del algoritmo para casos más concretos y personalizados. En este caso tendremos en cuenta el perfil individual de cada usuario, en el que puede haber variaciones frente a las recomendaciones globales. En este caso nuestro usuario de Netflix puede ser un consumidor nocturno que no tiene problemas en ver una película larga hasta altas horas de la madrugada, o en el caso del banco, que nuestro cliente tenga un trabajo bastante estable y seguro, con lo que no tendría problemas para afrontar la deuda.

Para aprovechar las oportunidades que nos ofrece la IA, debemos ser capaces de explicar las decisiones que hay detrás de un algoritmo, así podremos ofrecer a nuestros clientes consejos imparciales que les ayudarán a superar sus dificultades y a mejorar su calidad de vida.

Noticias y Publicaciones

Intelligent Data Lake: decisiones estratégicas con datos

Intelligent Data Lake: decisiones estratégicas con datos

Energía, tecnología, finanzas Son sólo algunas de las industrias que ya están tomando decisiones de negocio con un nuevo modelo de análisis de datos más eficiente y fluido, basado en Inteligencia Artificial (IA): el intelligent data lake. ¿Por qué este nuevo modelo de análisis de datos? La mayoría ...
La Responsabilidad Social Corporativa post-COVID (parte 2)

La Responsabilidad Social Corporativa post-COVID (parte 2)

En nuestro anterior post, ya os contamos sobre la Responsabilidad Social Corporativa (RSC) y cómo la aplicamos en OpenSistemas en distintos sectores. Uno de ellos es el deporte. La RSC es el compromiso que tienen las compañías u organizaciones con el medio ambiente y con la sociedad. En relación ...
Nace el primer diccionario multilingüe de terminología Big Data del mundo

Nace el primer diccionario multilingüe de terminología Big Data del mundo

Pretende ofrecer una terminología estándar que facilite la colaboración y entendimiento en Big Data 20 volúmenes componen La Terminología de Big Data, el primer diccionario multilingüe sobre términos y jerga de Big Data, llevado a cabo por el Laboratorio Clave de Estrategia de Big Data en China. ...

Al hacer clic en "Aceptar todas las cookies", acepta que las cookies se guarden en su dispositivo para mejorar la navegación del sitio, analizar el uso del sitio y colaborar con nuestros estudios de marketing.    Política de Cookies

Los ajustes de cookies en esta web están configurados para «permitir las cookies» y ofrecerte la mejor experiencia de navegación posible. Si sigues usando esta web sin cambiar tus ajustes de cookies o haces clic en «Aceptar», estarás dando tu consentimiento a esto.

Cerrar