Actuel

L’intelligence artificielle en médecine: les exigences de la FMH

DOI: https://doi.org/10.4414/bms.2022.21066
Date de publication: 21.09.2022
Bull Med Suisses. 2022;103(38):30-35

Verena Pfeiffera, Reinhold Sojerb

a Dre rer. nat., cheffe adjointe de la division Numérisation/eHealth de la FMH; b Dr rer. biol. hum., chef de la division Numérisation/eHealth de la FMH

Intelligence artificielleL’intelligence artificielle (IA) provoque des changements profonds dans presque tous les domaines de la médecine. Avec la brochure «L’intelligence artificielle dans le quotidien médical», la FMH propose au corps médical un aperçu complet des aspects essentiels et formule des exigences concernant l’utilisation de l’IA en médecine.

De sa conception jusqu’à son décès, de nombreux domaines de la vie d’un être humain relèvent de la santé. On peut imaginer que des applications basées sur l’IA peuvent le soutenir dans tous les aspects de sa santé. Leur utilisation croissante aura tôt fait de provoquer un changement profond dans le quotidien médical (cf. figure 1).

Motivée par le souhait d’accompagner cette évolution de notre profession et d’y participer dès le début, la FMH a élaboré la brochure «L’intelligence artificielle dans le quotidien médical». Cette brochure offre une vue d’ensemble détaillée de l’IA en médecine. Elle en résume les aspects essentiels pour le corps médical et contient également un catalogue d’exigences concernant les applications de santé basées sur l’IA. Outre son objectif de transmettre des informations au sujet de l’IA en médecine, la brochure vise à sensibiliser activement le corps médical confronté à de nouveaux défis.

À ce jour, il n’existe pas de définition de l’intelligence artificielle qui soit généralement établie [1]. On peut toutefois décrire l’IA, ou la machine intelligente, en tant que système informatisé (système d’IA) capable d’élaborer des prédictions et des recommandations, ou de prendre des décisions. Elle permet ainsi d’influencer des environnements réels, dans un objectif défini par l’humain [1]. Pour ce faire, le système d’IA utilise différentes méthodes. Dans l’histoire récente de l’intelligence artificielle, la recherche a suivi deux orientations fondamentalement différentes: l’approche symbolique et l’approche statistique [1]. Aujourd’hui, l’accent est mis sur l’IA statistique, qui consiste à résoudre des problèmes complexes à l’aide de modèles mathématiques et de méthodes statistiques. Dans l’approche statistique de l’IA, on trouve notamment les technologies d’apprentissage automatique (machine learning). L’ordinateur y apprend à élaborer des prédictions basées sur des données, sans programmation explicite.

Actuellement, presque toutes les disciplines médicales utilisent déjà des applications de l’IA: radiologie, pathologie, dermatologie, ophtalmologie, cardiologie, gastroentérologie, chirurgie, psychiatrie/psychothérapie, etc. Pour l’intégration de systèmes dans le quotidien professionnel, l’acceptation de l’intelligence artificielle par le corps médical s’avère essentielle, à l’hôpital comme au cabinet du médecin de famille ou du médecin spécialiste. En tant que critère déterminant pour l’acceptation, les médecins reconnaissent premièrement l’utilité des applications de l’IA dans l’optimisation technique et méthodologique des processus décisionnels qui se déroulent avant, pendant et après un traitement. En outre, le corps médical considère que la relation personnelle entre les médecins et leurs patients doit rester centrale, même dans un monde marqué par l’intelligence artificielle [2]. L’utilisation de l’IA en médecine offre de nouvelles possibilités, mais présente également des défis [3]. L’évaluation des systèmes d’IA se base sur un ensemble de critères à respecter. Ceux-ci font l’objet de discussions transparentes à l’échelle sociétale, au niveau politique et scientifique [4]. Les défis relatifs à l’utilisation des systèmes d’IA en médecine concernent les domaines de l’équité, de l’autonomie et du contrôle, de la transparence, de la fiabilité, de la sécurité et de la protection des données. Par exemple, en matière d’autonomie et de contrôle, il s’agit de définir, pour chaque système d’IA, la répartition appropriée et responsable des tâches entre l’intelligence artificielle et l’humain qui en fait usage [5, 6]. Afin de relever au mieux les défis liés à l’utilisation de l’intelligence artificielle, la FMH a formulé dix exigences qui représentent le point de vue du corps médical.

Catalogue d’exigences de la FMH

Les dix exigences concernent les systèmes d’IA qui sont employés à des fins diagnostiques ou thérapeutiques, étant donné qu’ils détiennent le potentiel de remplacer les prestations médicales de base.

Les lois, réglementations et directives suivantes, existantes ou proposées, ont été prises en compte dans leur élaboration: RDM [7], ODim [8], RDIV [9], législation sur l’IA [10], Guideline for AI for medical products [11], Guiding principles for good machine learning practice for medical device development [12].

fullscreen
A) Prévention et pronosticB) DiagnosticC) TraitementD) Surveillance / suivi des patient-e-s
1. Sélection d’embryons en vue d’une fécondation in vitro
2. Analyse et interprétation génomique chez le nouveau-né
3. Mesure de la fréquence cardiaque via smartwatch
4. Diagnostic d’infarctus du myocarde ou d’accident vasculaire cérébral
5. Prévention de la cécité en cas de rétinopathie diabétique
6. Interprétation d’imageries médicales
7. Identification des effets indésirables des interactions entre différents médicaments
8. Traitement d’appoint de la dépression ou de l’anxiété via des chatbots ou des applications
9. Exécution extrêmement précise d’opérations par des robots
10. Check-up quotidien, p. ex. après une maladie grave, et documentation des progrès thérapeutiques au moyen d’applications
11. Amélioration de la sécurité des patient-e-s : avertissement des médecins et du personnel soignant lorsque les valeurs mesurées se situent en dehors de la norme
12. Prédiction de la date / de l’heure du décès à l’hôpital dans le but d’adapter les soins palliatifs en conséquence

Un suivi régulier du système d’IA doit être effectué (surveillance post-marketing), notamment afin d’identifier de nouveaux risques. Les performances et le rapport bénéfices/risques peuvent ainsi être vérifiés dans l’environnement clinique réel, et le suivi permet de continuellement les améliorer, si nécessaire. En effet, un système d’IA ne peut notamment élaborer de solides prédictions que pour une population de patient-e-s présentant un certain nombre de caractéristiques pour lesquelles il a été entraîné, testé et validé.

Même sous une forme telle qu’une personne électronique (eperson [15, 16]), les systèmes d’IA ne possèdent pas de personnalité au sens juridique. Tant que cela reste le cas, la responsabilité de leurs décisions revient aux humains qui les conçoivent et les utilisent de manière professionnel‑le‑s, y compris les professionnels de la santé.

Même dans le cas des systèmes «out of the loop», où l’intervention humaine n’est plus nécessaire, le médecin peut encore décider d’utiliser ou non le système d’IA, même s’il ne peut plus influencer directement les prédictions et les décisions que ce système d’IA accomplit de manière autonome.

Ce mode d’emploi doit fournir toutes les informations nécessaires à l’utilisation conforme du système d’IA. Il doit permettre aux médecins de comprendre et de surveiller le fonctionnement du système d’IA et, si nécessaire, d’outrepasser ses décisions. Le fabricant doit veiller à ce que, lors de l’utilisation du système d’IA, les médecins soient en mesure de satisfaire à leur devoir d’information et de diligence.

Le «mode d’emploi» doit indiquer de manière claire:

… le rôle attribué aux médecins dans le fonctionnement du système.

Il faut notamment définir leurs compétences en matière de décision selon les systèmes «in the loop» ou «on the loop».

… les objectifs ou tableaux cliniques dans lesquels le système d’IA peut être utilisé, ainsi que les cas dans lesquels il ne doit pas l’être.

… comment utiliser le système d’IA.

Le mode d’emploi doit notamment indiquer la manière de saisir les données (et lesquelles), de reconnaître les dysfonctionnements et incidents particuliers ou de savoir si le système fonctionne correctement, ainsi que la manière de refuser et remplacer, si nécessaire, les décisions du système.

… la méthodologie sur laquelle se base le système d’IA.

Les principes de base et les normes d’excellence de la compétence en matière de données doivent être respectés et mis en œuvre. Cela comprend notamment un concept de données judicieux, déclaré de manière transparente et compréhensible, ainsi qu’une collecte et un traitement des données qui correspondent à ce concept.

… comment le système d’IA a été entraîné, testé et validé.

Le mode d’emploi doit notamment indiquer les ensembles de données indépendants utilisés et leurs caractéristiques (taille, répartition par sexe, par âge, etc.). Il doit en outre décrire leur adéquation (au niveau statistique et médical/clinique), y compris la description des tests relatifs à d’éventuels biais et erreurs. De plus, il doit mentionner les chiffres clés en ce qui concerne la précision de la performance et de l’efficacité clinique du système d’IA, également en comparaison avec les meilleures méthodes alternatives et les meilleurs modèles d’IA possibles.

… la manière dont le système d’IA garantit la protection des données et la sécurité.

En particulier, le mode d’emploi doit préciser où et sous quelle forme les données (données personnelles et métadonnées) sont stockées, comment ces informations sont protégées de manière adéquate contre les risques de sécurité, et comment est assurée la sécurité du système d’IA.

… à quel point de contact le médecin peut s’adresser.

Il faut s’assurer que l’utilisatrice ou l’utilisateur reçoive une aide compétente en cas de questions ou de problèmes.

Le système de formation médicale doit donner aux futurs médecins et aux médecins en exercice les outils leur permettant d’utiliser l’IA et les techniques modernes de manière pertinente et compétente dans leur quotidien médical. Cela inclut la confrontation avec les aspects juridiques et éthiques [17], de même que la capacité à utiliser les données de manière compétente, ainsi qu’à comprendre et à accompagner les différents aspects de la médecine basée sur les données [18, 19, 20, 21]. L’intégration des notions de base de l’analyse des données, y compris concernant l’apprentissage automatique, se révèle indispensable pour pouvoir utiliser l’IA en connaissance de cause.

Pour que cette utilisation puisse atteindre ses objectifs en matière d’efficacité, il faudra notamment déterminer quelles questions médicales doivent être résolues par le système d’IA et dans quel contexte le système AI doit être utilisé.

C’est notamment le cas des systèmes qui peuvent surveiller la qualité du travail des médecins en arrière-plan.

Les systèmes d’IA doivent être adaptés à la situation locale des données (voir l’exigence 4). Pour ce faire, il est nécessaire de disposer d’ensembles de données représentatifs de la population locale de patient-e-s à tester. Ceux-ci doivent être collectés, traités et stockés dans le respect de la protection et de la sécurité des données.

Dans ce contexte, il est important de disposer d’une gestion de la qualité certifiée, ainsi que d’une annotation certifiée des données utilisées et collectées.

La Suisse a en outre besoin d’accéder aux plateformes de données internationales. On peut citer l’exemple du Royaume-Uni, qui collecte des données auprès des médecins de famille dans le cadre du réseau Clinical Practice Research Datalink (CPRD) [22]. Le corps médical suisse peut également s’appuyer ici sur de nouvelles solutions, telles que l’apprentissage fédéré, permettant un apprentissage décentralisé des données.

Profil professionnel du médecin en évolution

Il ne fait aucun doute qu’il existe des tâches que les machines intelligentes peuvent accomplir bien mieux que l’humain. L’IA permet déjà de détecter des tumeurs plus rapidement que les médecins, en exécutant des processus automatisables avec précision [23].

fullscreen
L'homme et la technologie peuvent tout à fait se compléter si les conditions sont réunies.

© Sompong Sriphet / Dreamstime

Comme cette technologie ne peut pas (encore) remplacer les relations interpersonnelles, il est peu probable que l’IA assume un jour pleinement les différents rôles du médecin [24]. Dans un avenir proche, on peut toutefois imaginer que les médecins pourront approfondir davantage leurs rôles nouveaux ou modifiés que les systèmes d’IA ne peuvent pas prendre en charge. Afin de permettre un tel ajustement, les programmes de formation médicale prégraduée, postgraduée et continue doivent impérativement enseigner les connaissances actuelles en lien avec l’intelligence artificielle [18]. Les médecins devraient participer activement à l’évolution de leur profil professionnel et aborder ce changement notable avec une attitude positive. C’est justement pour accompagner au mieux ce processus que la FMH a conçu la brochure «L’intelligence artificielle dans le quotidien médical», qui explore le thème de l’IA de manière approfondie.

Vous pouvez télécharger la brochure «L’intelligence artificielle dans le quotidien médical» à l’adresse suivante: https://www.fmh.ch/intelligence-artificielle

fullscreen

© Maxuser2 / Dreamstime

Références

1 OCDE. L’intelligence artificielle dans la société. https://www.oecd.org/fr/publications/l-intelligence-artificielle-dans-la-societe-b7f8cd16-fr.htm (2019).

2 FMH. Digital Trends Survey 2021. www.fmh.ch/digital-trends-survey-2021-fr (2021).

3 UE. Rapport sur les conséquences de l’intelligence artificielle, de l’internet des objets et de la robotique sur la sécurité et la responsabilité. https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX:52020DC0064 (2020).

4 Bærøe, K., Miyata-Sturm, A., Henden, E. How to achieve trustworthy artificial intelligence for health. Bull World Health Organ. 2020 Apr 1;98(4):257–262.

5 Fraunhofer IAIS. Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz – KI Prüfkatalog (2021). www.iais.fraunhofer.de/ki-pruefkatalog.

6 Fraunhofer IAIS. Vertrauenswürdiger Einsatz von künstlicher Intelligenz (2019).

7 UE. Règlement 2017/745 du Parlement européen et du Conseil du 5 avril 2017 relatif aux dispositifs médicaux, modifiant la directive 2001/83/CE, le règlement (CE) no 178/2002 et le règlement (CE) no 1223/2009 et abrogeant les directives du Conseil 90/385/CEE et 93/42/CEE. https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX%3A32017R0745&qid=1662196447180 (2017).

8 Fedlex. Ordonnance sur les dispositifs médicaux (ODim). RS 812.213. www.fedlex.admin.ch/eli/cc/2020/552/fr (2020).

9 UE. Règlement 2017/746 du Parlement européen et du Conseil du 5 avril 2017 relatif aux dispositifs médicaux de diagnostic in vitro et abrogeant la directive 98/79/CE et la décision 2010/227/UE de la Commission. https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX%3A32017R0746&qid=1662196558041 (2017).

10 UE. Proposition de Règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle) et modifiant certains actes législatifs de l’Union. https://eur-lex.europa.eu/legal-content/FR/TXT/?uri=CELEX%3A52021PC0206&qid=1662196873633 (2021).

11 Johner, C., Molnar, C., Purde, A., Rad, A., Dierks, C., Bunk, S., Piechottka, S. Leitfaden zur KI bei Medizinprodukten. https://github.com/johner-institut/ai-guideline/blob/master/Guideline-AI-Medical-Devices_DE.md#leit.

12 FDA. Good Machine Learning Practice for Medical Device Development: Guiding Principles. https://www.fda.gov/medical-devices/software-medical-device-samd/good-machine-learning-practice-medical-device-development-guiding-principles (2021).

13 American Medical Association. Augmented Intelligence in Health Care policy report (2019).

14 Crochane Deutschland. Evidenzbasierte Medizin. www.cochrane.de/ueber-uns/evidenzbasierte-medizin

15 Parlement européen. Un régime de responsabilité civile pour l’intelligence artificielle. https://www.europarl.europa.eu/doceo/document/TA-9-2020-0276_FR.html.

16 Gless, S. Von der Verantwortung einer E-Person. Goltdammer’s Arch. für Strafr. 164, 324–9 (2017).

17 WHO. Ethics and governance of artificial intelligence for health. https://www.who.int/publications/i/item/9789240029200. (2021).

18 Bonvin R., Buhmann J., Cotrini Jimenez C., Egger M., Geissler A., Krauthammer M., Schirlo C., Spiess C., Steurer J., Vokinger K. N., Vogt J. Neue Lernziele für das Medizinstudium erarbeitet: Studierende auf den Einsatz von maschinellem Lernen vorbereiten. Bull Med Suisses (2022), 103(04):98–101.

19 Buhmann J., Felix J., Gächter T., Kowatsch T., Lehmann R., von Lutterotti N., Schedler K., Steurer J., Wolfrum C. Digitalisierung der Medizin: Konsequenzen für die Ausbildung. Bull Med Suisses. (2018), 99(42):1441–4.

20 Schüller, K., Busch, P., Hindinger, C. Future Skills: Ein Framework für Data Literacy – Kompetenzrahmen und Forschungsbericht. (2019).

21 Misra, A., Jütting, J., Kuonen, D. Advancing data literacy in the post-pandemic world. (2021).

22 CPRD. Clinical Practice Research Datalink. www.cprd.com.

23 Mell E. Que viens-tu faire chez nous, Dr Algorithme? Bull Med Suisses (2022), 103(24):826–8.

24 Goldhahn J., Rampton V., Spinas G. A. Could artificial intelligence make doctors obsolete? Bull Med Suisses (2019), 100(08):242–4.

Verpassen Sie keinen Artikel!

close