Ces dernières semaines et ces derniers mois, l’intelligence artificielle a suscité de nombreuses réflexions, y compris dans ce journal. Automatisation, numérisation, décisions prises par des algorithmes, deep learning, machine learning: il n’est pas toujours facile de comprendre ces termes ni de savoir ce qu’ils recouvrent. La numérisation et le recours à l’intelligence artificielle permettraient pourtant d’optimiser la médecine et d’améliorer son efficacité. Mais ces technologies font aussi craindre qu’un jour les ordinateurs prennent les décisions à la place des humains, une crainte partagée par l’ensemble des médecins. On s’inquiète aussi que les ordinateurs remplacent les humains à certains postes, même s’il semblerait qu’on ne puisse l’éviter. Imaginons qu’un jour un robot infirmier intelligent s’occupe d’une vieille dame atteinte de démence qui ne comprendrait peut-être même pas qu’il ne s’agit pas d’un humain. Quel manque de dignité! Mais attardons-nous un peu sur la question des décisions et de la dignité.
Rouven Porz
Prof. Dr phil., Éthique médicale et formation postgraduée médicale, Insel Gruppe, Hôpital de l’Île, Berne
Les décisions: lors de mes vacances dans une ville étrangère, si le GPS de mon véhicule m’indique la station-service la plus proche et que je m’y rends, ne prend-il pas déjà une décision à ma place? Si Spotify, mon fournisseur de musique en streaming, me propose un morceau qui correspond à ce que j’ai l’habitude d’écouter depuis des mois, l’algorithme ne décide-t-il pas pour moi? Vous me répondrez probablement que non, car ce ne sont que des suggestions et pas de véritables décisions. Je n’en suis plus très sûr et je crois même que ce sont bel et bien des décisions, mais tout dépend de ce que l’on entend par «décisions», un terme qui ne semble pas avoir été intégré au débat. Nous croyons tous savoir ce qu’est une décision. Mais un résultat généré par un système de calcul puissant et complexe n’est-il pas déjà une décision? Surtout lorsque la puissance de calcul du système de deep learning est si complexe que je ne peux ni la comprendre ni l’interpréter moi-même? Ou alors, une décision n’est-elle une décision que lorsqu’un humain lui aura attribué une composante émotionnelle du type «Je n’aime pas la chanson proposée, car elle me rappelle mon premier amour malheureux»?
Cela dit, revenons à la dignité: sommes-nous presque toutes et tous d’accord pour dire qu’un système d’intelligence artificielle ne pourra jamais se voir attribuer la dignité que nous accordons d’emblée aux êtres humains? Là non plus, je n’en suis plus si sûr. Pourquoi? Parce que la différence entre «naturel» et «artificiel» tend à s’estomper en ce moment. Qu’est-ce qui rend le «naturel» plus digne que «l’artificiel»? Dolly était-elle une moins bonne brebis que les autres parce qu’elle avait été clonée? Vous allez sûrement me rétorquer que le clonage et l’intelligence artificielle n’ont rien à voir. Effectivement, et pourtant il s’agit de la même estampille. Les deux systèmes portent la marque d’un dilemme dû à une utilisation à double tranchant: selon la manière d’appliquer, d’interpréter et d’utiliser les nouvelles technologies, les conséquences peuvent être bénéfiques ou désastreuses. Ce qui n’est pas anodin.
