El Parlament Europeu estudia com fer front a certs riscos que pot comportar la progressiva introducció de la intel•ligència artificial i els processos automatitzats per als consumidors.

Cada vegada s'utilitzen més aplicacions en els ordinadors que incorporen la "intel•ligència artificial" per utilitzar-la en processos quotidians com la medicina, l'educació o les finances, per exemple, que s'afegeixen a les funcions més habituals com el processament de dades a una velocitat i precisió que l'ésser humà no pot assolir.

Encara que aquesta previsible dependència de la IA pot suposar certs riscos al prescindir de la presa de decisions que depenen de l'ésser humà. Aquest procés d'aprenentatge automatitzat es basa en el reconeixement de determinats patrons dins del conjunts de dades. Els inconvenients i problemes poden sorgir en el moment en què aquestes dades representen un biaix social.

No obstant això, dependre de la IA també comporta riscos, especialment quan es prenen decisions sense supervisió humana. L'aprenentatge automàtic es basa en el reconeixement de patrons dins dels conjunts de dades. Els problemes sorgeixen quan les dades disponibles reflecteixen un biaix social.

Si volem que ens concedeixin un crèdit, accedir a un lloc de treball o sol•licitar algun tipus de tractament mèdic, aquests processos estan subjectes a una decisió que podria dependre de manera decisiva de la intel•ligència artificial i dels algoritmes que la regeixen. Aquesta presa de decisions automatitzada pot col•laborar a fomentar les divisions socials en diversos àmbits.

Aquesta progressiva implementació de la IA i dels processos d'automatització en la presa de decisions genera dubtes en la confiança i el benestar dels consumidors. Cal que en el moment en què els consumidors estiguin correctament informats sobre el funcionament i les conseqüències del seu ús.

El desenvolupament de la IA i els processos automatitzats de presa de decisions també presenten desafiaments per la confiança i el benestar de consumidor. Quan els consumidors interactuen amb un sistema d'aquest tipus, se'ls ha d'informar adequadament sobre com funciona.

En aquest sentit, el Parlament Europeu ha aprovat recentment una resolució sobre els desafiaments derivats del ràpid desenvolupament de la intel•ligència artificial (IA) i la presa automatitzada de decisions, amb especial èmfasi en la protecció dels consumidors. El Parlament reclama un pla d'avaluació dels riscos associats a la IA i la presa automatitzada de decisions i un enfocament comú a la UE per aprofitar els beneficis d'aquests processos i mitigar els riscos.

Un dels objectius de la Comissió és determinar de quina manera es garantirà que els consumidors estiguin protegits davant pràctiques comercials deslleials i / o discriminatòries, o dels possibles riscos que comporten els serveis professionals impulsats per la intel•ligència artificial. Així mateix, s'haurà de garantir la màxima transparència en els diferents processos i verificar que els conjunts de dades d'alta qualitat no continguin biaixos de cap tipus que garanteixin la protecció i generin confiança en els consumidors.

La resolució que acaba de ser aprovada ha de ser transmesa a el Consell de la UE (estats membres) i a la Comissió, perquè tingui en consideració l'opinió dels diputats pel que fa a la intel•ligència artificial i la presa automatitzada de decisions.