Explicabilité et interprétabilité, critères indispensables de l’IA de confiance

Pour être appliquée en toute confiance, l’intelligence artificielle (IA) -du simple arbre décisionnel au réseau de neurones complexe- doit pouvoir rendre des comptes à celui qui l’utilise. Ses définition, périmètre, explicabilité et interprétabilité s’avèrent donc indispensables à son application en santé mais demeurent encore évolutives comme l’expliquait mind Health dans son précédent dossier. Plusieurs outils permettent toutefois d’encadrer l’élaboration d’algorithmes et la traçabilité d’un raisonnement lors d’aide à la décision par exemple.

La valeur ajoutée de l’IA de confiance

En pratique, l’exercice consiste à traduire la médecine en mathématique, et vice-versa. En passant du langage médical au langage informatique, on construit l’interprétabilité de l’IA, en rempart de la boîte noire, tout en traduisant en requête informatique une cible d’intérêt médical. D’après Alexandre Templier, président exécutif de Quinten, “Combiner les hypothèses générées par un algorithme avec l’expertise d’un médecin sur les patients à risque de développer une pathologie ou à forte probabilité de répondre à un traitement permet de générer de nouvelles connaissances.
La valeur ajoutée des algorithmes réside notamment dans leur capacité de tester massivement toutes les combinaisons d’hypothèses possibles et à sélectionner les meilleures”. Notamment en filtrant dans les résultats obtenus ce qui est de l’ordre de l’aléa ou du signal pour sélectionner celles qui ont le plus de chances d’être validées, de se reproduire sur d’autres jeux de données, explique-t-il. “Un signal est un résultat de test statistique concluant, ayant une très faible probabilité d’être observé par hasard”. Selon lui, les notions théoriques mathématiques complexes sur lesquelles repose l’algorithme ne sont pas immédiatement accessibles, d’où l’impression de “boîte noire”.

La valeur ajoutée des algorithmes réside notamment dans leur capacité de tester massivement toutes les combinaisons d’hypothèses possibles et à sélectionner les meilleures

Alexandre Templier, CEO de Quinten

“La médecine a recours aux statistiques depuis plus de 70 ans avec l’evidence-based medicine. En revanche, les résultats des prédictions générées par l’IA sont rarement explicites. La question des variables influençant ces prédictions, et leur validité, est tout à fait légitime”, poursuit Alexandre Templier.…

À lire

Le concept d’IA de confiance en santé

La Mayo Clinic crée deux entreprises en vue de constituer une plateforme d'IA

Le Broad Institute accueille un centre de recherche en IA doté de 300 M$

L’intelligence artificielle fonctionnelle à 67 % dans le secteur de la santé

Entretien

Jessica Leygues (Medicen): "Nous créons un nouvel axe stratégique très fort dédié à la data et l'IA"