Lorsqu'un consommateur interagit avec un système de décision automatisée, il devrait être correctement informé de la façon de joindre un humain détenant le pouvoir de décision, ont affirmé les députés de la commission du marché intérieur et de la protection des consommateurs du Parlement européen.

Ce consommateur devrait aussi être correctement informé du fonctionnement du système et de la manière dont les décisions de ce dernier peuvent être vérifiées et corrigées, selon une résolution de l'eurodéputée belge Petra De Sutter (Groen, Verts/ALE) adoptée à l'unanimité moins quatre abst entions.

Lors de son entrée en fonction comme commissaire européenne à l'agenda numérique fin de l'année dernière, la vice-présidente Margrethe Vestager a promis de présenter dans les 100 jours des propositions réglementaires sur l'intelligence artificielle, avec une attention particulière pour ses implications "humaines et éthiques". En charge de la défense des consommateurs et de la préservation des droits à l'ère numérique, le commissaire belge Didier Reynders devrait présenter une note politique le 19 février prochain.

En adoptant ce jeudi une résolution sur le sujet, à confirmer prochainement en plénière, le Parlement cherche à peser sur ces futures propositions.

Les élus réclament que les systèmes de décision automatisée (ADM) utilisent des ensembles de données et des algorithmes explicables et "non biaisés". "L'homme doit toujours être responsable en dernier ressort de la prise de décision", souligne Mme De Sutter, citant en particulier tout ce qui est lié aux professions dans le domaine médical, juridique et comptable.

Les députés demandent un système d'évaluation des risques pour l'intelligence artificielle et l'ADM ainsi qu'une approche européenne commune. Ils veulent aussi que la Commission européenne contrôle l'application de la réglementation interdisant un géoblocage injustifié, afin de garantir que l'ADM ne soit pas utilisée pour discriminer les consommateurs sur base de leur nationalité, lieu de résidence ou localisation temporaire.