La démocratie, soluble dans l’algorithme? (V.Kokoszka)

L’édification progressive d’un écosystème d’applications et de dispositifs techniques inter-reliés, fondés sur la collecte et l’utilisation massive des bigs datas couplée à la virtuosité computationnelle de l’intelligence artificielle pose d’élémentaires questions de démocratie, de droits fondamentaux, d’éthique et de gouvernance. Y répondre commence par déployer une épistémologie rigoureuse qui refuse de prendre pour argent comptant les termes tronqués du débat.

Suivi et prise en charge automatisée de cohorte de patients, médecine adossée à la singularité biologique des individus, prévention des maladies via l’actionnabilité des biomarqueurs, autonomisation du patient grâce aux dispositifs de capture et de monitoring des paramètres biologiques, telles sont quelques-unes des perspectives promises à la santé gouvernée par l’intelligence artificielle. Quel esprit chagrin pourrait refuser une telle promesse?

L’intelligence artificielle est une promesse qu’elle ne peut pas tenir seule…

L’intelligence artificielle, c’est surtout l’artifice de l’intelligence. Donnée comme un système auto-apprenant, susceptible de trouver structures et corrélations grâce à l’amalgame de tera-octets de datas, on en oublie avec une troublante légèreté qu’il faut, le rappelle Matthieu Guillermin (UCLy), constituer des bases de données d’apprentissage avec les biais de l’opération, paramétrer les architectures, définir des algorithmes, «nettoyer» les données (jusqu’à 90% du temps requis pour traiter les données selon Julie Jacques (UCLille) etc., pour obtenir des corrélations qui ne sont pas toujours des liens de causalité et une personnalisation qui reste statistique.

Le mythe des données anonymisées

Pour être pleinement opératoire, l’IA requiert des masses toujours plus conséquentes de données. Ne faut-il pas, pour soutenir l’innovation, favoriser la collecte de ces données sensibles que sont les datas de santé, favoriser l’open data? Comme elles sont sensibles, proposition est faite de les anonymiser, c’est-à-dire de procéder à une dés-identification telle qu’il est impossible de ré-identifier leur propriétaire avec des moyens «raisonnables» (sic). Or, selon Christine Froidevaux (Université Paris-Sud, Cerna), il est particulièrement complexe de connaître et donc d’éliminer tous les attributs susceptibles de permettre la ré-identification.

Par-delà cette difficulté, il faut s’interroger plus avant: qui veut réellement de données anonymisées enfermées dans une database unique? La stratégie des registres vise à coupler les différentes databases pour densifier et affiner les corrélations. Il faut oser dire que les données réellement intéressantes pour l’IA, ses industriels et ses promoteurs, sont celles qui autorisent les identifications croisées et les identifications en contextes. Seules celles-ci peuvent générer une «méta-intelligence» utile.

La maîtrise de l’algorithme

Si la collecte ou la cession des données mérite un débat démocratique fondamental, que dire de la maîtrise des algorithmes (= suite non ambiguë d’opérations qui permettent d’obtenir un résultat) qui leur sont appliqués? Qui les définit? Que font-ils et quels sont leurs objectifs finaux? Sur quels échantillons sont-ils appliqués? Qui les évalue? Qui les corrige? 

La dictature de la data?

La gouvernance et le contrôle démocratique des données et des algorithmes sont essentiels dans la mesure où l’IA pourrait gouverner nos organisations, nos choix personnels et collectifs, nos actes: un médecin pourra-t-il s’affranchir d’un traitement défini par l’IA? Quid de la responsabilité en cas d’erreurs ou de dommages liés à l’IA? Les individus pourront-t-ils s’émanciper d’une (épi) génétique imparfaite, d’un parcours de soins ou de santé?

On peut être technophile et ne pas vouloir d’une datacratie.

> Le débat se poursuit sur @numeriKare

> Lire l'ensemble des tweets échangés sur ce débat

Lire aussi :

La santé numérique à contre-humanité? (V. Kokoszka)

Santé numérique : un grand chambardement organisationnel ? (V. Kokoszka)

La santé numérique va t-elle redéfinir les contours de la médecine? (V. Kokozska)

Téléconsultation: quelle relation thérapeutique à distance? (V. Kokozska)

Vous souhaitez commenter cet article ?

L'accès à la totalité des fonctionnalités est réservé aux professionnels de la santé.

Si vous êtes un professionnel de la santé vous devez vous connecter ou vous inscrire gratuitement sur notre site pour accéder à la totalité de notre contenu.
Si vous êtes un patient interessé par des informations médicales validées, consultez notre site grand public www.vivasante.be.
Si vous êtes journaliste ou si vous souhaitez nous informer écrivez-nous à redaction@rmnet.be.

Derniers commentaires

  • Remy Demeester

    29 mai 2018

    et pourquoi ne pourrait il pas y a voir une certaine transparence ces algorithmes? Ceci afin d'éviter qu'un poids excessif soit donné à certains éléments. On pourrait imaginer que certains payent la firme produisant le système d'IA de manière à ce que les algorithmes émettent des résultats qui leur soient plus favorables. Quel garde fou sera mis en place pour éviter cela? De plus la dépossession par ces systèmes du libre arbitre et de la décision ôte le sens au professionnel de son activité.