TEST 15 JOURS

Guillaume Avrin (LNE) : “Le besoin de supervision permanente des systèmes d’IA critiques suppose de nouvelles méthodes”

Guillaume Avrin, responsable du département Évaluation de l’IA, et Clément Henry, coordinateur du groupe de travail sur la certification de processus pour l’IA, travaillent tous les deux au sein du Laboratoire national de métrologie et d'essais (LNE). Ils reviennent pour mind Health sur la genèse et l’utilité du référentiel de certification de l’IA publié le 12 juillet dernier.

Par Camille Boivigny. Publié le 13 octobre 2021 à 6h45 - Mis à jour le 12 octobre 2021 à 15h39

Quel est le rôle du LNE en France ?

Guillaume Avrin : C’est un établissement public à caractère industriel et commercial (EPIC) rattaché au ministère de l’Industrie, aujourd’hui à l’Économie. Notre tutelle ministérielle est la DGE, la Direction générale des entreprises. Il est l’organisme central et fédérateur des travaux d’essai, d’évaluation et de métrologie visant à structurer et accompagner l’offre de nouveaux produits, en cherchant à la fois à protéger et répondre aux besoins des consommateurs et à rationaliser, développer et favoriser la compétitivité de l’industrie nationale. Dans ce cadre, il mène des projets de recherche sur l’évaluation, la qualification et la certification des produits et des technologies pour accompagner les innovations de rupture (intelligence artificielle, nanotechnologies, fabrication additive, mesure de radioactivité, stockage de l’hydrogène, etc.), au bénéfice de la communauté scientifique, normative, réglementaire et industrielle.

Guillaume AvrinGuillaume Avrin, responsable du département Évaluation de l’IA du LNE

Quelle est votre mission spécifique ?

G. A. : Je suis en charge du département dédié à l’évaluation de l’IA. Nous avons une activité amont qui vise à concevoir des protocoles, métriques et référentiels de mesure pour l’IA. Nous avons également une activité d’essais qui met en œuvre ces référentiels d’évaluation pour caractériser les performances, la robustesse, l’éthique et l’explicabilité des systèmes intelligents. Enfin, en collaboration avec Clément et son service, nous avons développé une activité de certification dans le domaine de l’IA, dont résulte ce premier référentiel.

Clément Henry : Je fais partie de l’équipe spécialisée en certification du LNE. Les instruments de mesure intègrent de plus en plus de software, avec des enjeux de cybersécurité croissants et des lois qui ont poussé à la création de certifications en cybersécurité. Nous sommes accrédités pour délivrer les certifications HDS (hébergement de données de santé) et également organisme d’évaluation des prestataires de Cloud (SecNumCloud) pour le compte de l’ANSSI (Agence Nationale de Sécurité des Systèmes d’Information). Avec nos deux équipes, nous disposions de compétences et d’expertises en évaluation et certification des systèmes d’IA. Or, il existait un besoin de créer de la confiance dans ce domaine.…

Cet article est reservé aux abonnés
Déja abonné ? Connectez-vous

Vous n’êtes pas encore inscrit ?

Créez un compte pour tester notre offre
gratuitement pendant 15 jours

  • Services en ligne : études, analyses, bases de données et bien plus encore
  • Briefings quotidiens : actualités synthétisées
  • Lettres hebdomadaires

Besoin d’informations complémentaires ?

Contactez

le service d’études à la demande de mind

À lire

Les référentiels des LAP hospitaliers et en ambulatoire entrent en vigueur

Hébergement des données de santé : que révèle l’analyse des entreprises certifiées ?

La Commission européenne envisage la certification des IA à "haut risque" utilisées en santé

Confidentiels

85 sociétés sont aujourd'hui agréées HDS et 11 n'ont plus aucune autorisation

Bpifrance lance un appel à projets pour évaluer le bénéfice des dispositifs médicaux numériques ou basés sur l'IA

La CNIL propose une auto-évaluation de maturité en gestion de la protection des données