El Parlamento Europeo estudia cómo hacer frente a ciertos riesgos que puede entrañar la progresiva introducción de la inteligencia artificial y los procesos automatizados para los consumidores.

Cada vez se utilizan más aplicaciones en los ordenadores que incorporan la ”inteligencia artificial” para utilizarla en procesos cotidianos como la medicina, la educación o las finanzas, por ejemplo, que se añaden a las funciones más habituales como el procesamiento de datos a una velocidad y precisión que el ser humano no puede alcanzar.

Aunque esa previsible dependencia de la IA puede suponer algunos riesgos al prescindir de la toma de decisiones que dependen del ser humano. Este proceso de aprendizaje automatizado se basa en el reconocimiento de determinados patrones dentro de los conjuntos de datos. Los inconvenientes  y problemas pueden surgir en el momento en que esos datos representan un sesgo social.

Sin embargo, depender de la IA también conlleva riesgos, especialmente cuando se toman decisiones sin supervisión humana. El aprendizaje automático se basa en el reconocimiento de patrones dentro de los conjuntos de datos. Los problemas surgen cuando los datos disponibles reflejan un sesgo social.

Si queremos que nos concedan un crédito, acceder a un puesto laboral o solicitar algún tipo de tratamiento médico, estos procesos están sujetos a una decisión que podría depender de forma decisiva de la inteligencia artificial y de los algoritmo que la rigen. Esta toma de decisiones automatizada puede colaborar en fomentar las divisiones sociales en varios ámbitos.

Esta progresiva implementación de la IA y de los procesos de automatización en la toma de decisiones genera dudas en la confianza y el bienestar de los consumidores. Es necesario que en el momento en que los consumidores estén correctamente informados sobre el funcionamiento y las consecuencias de su uso.

El desarrollo de la IA y los procesos automatizados de toma de decisiones también presentan desafíos para la confianza y el bienestar del consumidor. Cuando los consumidores interactúan con un sistema de este tipo, se les debe informar adecuadamente sobre cómo funciona.

En este sentido, el Parlamento Europeo ha aprobado recientemente una resolución sobre los desafíos derivados del rápido desarrollo de la inteligencia artificial (IA) y la toma automatizada de decisiones, con especial énfasis en la protección de los consumidores. El Parlamento reclama un plan de evaluación de los riesgos asociados a la IA y la toma automatizada de decisiones y un enfoque común en la UE para aprovechar los beneficios de esos procesos y mitigar los riesgos.

Uno de los objetivos de la Comisión es determinar de qué forma se garantizará que los consumidores estén protegidos ante prácticas comerciales desleales y / o discriminatorias, o de los posibles riesgos que conllevan los servicios profesionales impulsados por la inteligencia artificial. Asimismo, se tendrá que garantizar la máxima transparencia en los diferentes procesos y verificar que los conjuntos de datos de alta calidad no contengan sesgos de ningún tipo que garanticen la protección y generen confianza en los consumidores.

La resolución que acaba de ser aprobada debe ser transmitida al Consejo de la UE (Estados miembros) y a la Comisión, para que tenga en consideración la opinión de los diputados en lo relativo a la inteligencia artificial y la toma automatizada de decisiones.