Contributions à un débat nécessaire

Enjeux des mutations technologiques

Horizonte
Édition
2019/09
DOI:
https://doi.org/10.4414/bms.2019.17594
Bull Med Suisses. 2019;100(09):319

Affiliations
Dr méd., membre de la rédaction

Publié le 27.02.2019

«Les gens des technologies sont fiers de leur optimisme. Après tout, la Silicon Valley a été bâtie sur l’idée que la technologie est une force pour le bien […]. Les développements toutefois ne sont pas allés tout à fait dans ce sens et des conséquences inattendues sont apparues. Des hackers ont volé nos données et nos identités, les médias ­sociaux ont été utilisés pour influencer des élections et semer la discorde […]. Et il se peut que les choses ­empirent avant qu’elles ne s’améliorent. Ethiciens et futurologues posent des questions lourdes quant à la direction où nous allons. Qu’est-ce que cela signifiera d’être humain quand notre corps intégrera de multiples extensions technologiques? Comment les systèmes/réseaux qui s’étendent de manière ubiquitaire influenceront-ils la croissance de nos enfants et leur capacité à aimer?» Ce sont les mots de Laurie Segall, correspondante principale de CNN en matière de technologie [1]. Extraits des réponses aux questions qu’elle a posées à des penseurs-clés:
«A ce stade, la technologie dépasse la capacité des gouvernements de rester à niveau. Ils doivent adopter des lois pour protéger la vie privée, la démocratie et éviter les discriminations. Nous avons besoin d’un avenir qui ne force pas les compagnies du domaine à choisir entre responsabilité sociale et succès commercial» (Brad Smith, président de Microsoft).
«Nous connaissons les inégalités en matière de finances et d’opportunités. L’inégalité neurale pourrait être la prochaine. Certaines personnes pourraient améliorer leurs capacités par l’implantation de chips dans le cerveau qui, de manière disproportionnée, les rendront plus intelligentes que la moyenne. Avec un risque de manipu­lation – que quelqu’un d’autre puisse ‘écrire’ dans votre ­esprit» (Moran Cerf, neuroscientifique).
«Plusieurs études récentes suggèrent que les adultes mettent à risque la relation avec leurs petits enfants [infants] en accordant plus d’attention à leur téléphone portable qu’à ceux-là, avec des effets négatifs sur leur développement.» Il y a aussi des effets préoccupants chez les enfants plus âgés (une PhD et un médecin). 
On verra des risques pour la sécurité de l’activité hospitalière: «dans dessimulations de ‘hacking’ en milieu médical, nous avons pu stopper des équipements vitaux, détruire des données et créer un chaos tel que les patients seraient morts» (un spécialiste de cybersécurité). Rappel à propos de la naissance récente, en Chine, de jumelles dont le DNA a été modifié: «l’éthique requiert qu’on réfléchisse d’abord et qu’on agisse ensuite»!
Dans le même dossier, Eli Pariser demande de rendre sa dignity, sa valeur ‘morale’, à la technologie. Comment ­élaborer des instruments qui rectifient les dérives qu’on constate (what has gone wrong on line). «Nous avons toujours compté avec des instruments pour élargir les capacités humaines et nous permettre de survivre dans des environnements nouveaux. Cependant, les instruments se tournent contre nous. Les nouvelles technologies / réseaux sociaux non seulement nous instrumentalisent, mais nous poussent à instrumentaliser les autres, à les utiliser comme des moyens […]. Nous avons besoin d’un nouveau mouvement des Lumières [enlightment], qui s’éloigne des sombres modèles actuels d’optimisation comportementaliste pour développer des espaces [online spaces] qui nous traitent comme les êtres uniques que nous sommes et nous encouragent à nous traiter l’un l’autre avec attention et respect […]. Des exemples émergent qui aident à surmonter nos pulsions et à faire des choix moraux» (ainsi une plateforme d’éducation en ligne appelée OpenMind).
Well… Même si ce qui précède reste quelque peu théorique, la problématique générale apparaît bien. Kant est la référence première quand il s’agit de refuser l’instrumentalisation de l’autre – et Kant, c’était il y a quelque temps déjà. Et les humains se comporter comme des êtres moralement justes, impeccables, est / a été le but de nombreuses religions et philosophies. Alors: plus ça change et plus c’est la même chose? En réalité, chacun observe comment ces risques d’instrumentalisation se multiplient.
Je suis de ceux qui pensent que, si la problématique reste en principe la même, nous vivons un temps d’accélération si rapide de multiples processus que, en plus d’avoir des effets sur notre «sécurité personnelle» à divers égards, cela met en cause nos régimes démocratiques et sociaux et probablement, en dépit du côté catastrophiste de l’expression, l’avenir de l’humanité.
jean.martin[at]saez.ch
1 Time magazine. «Technology – What the tech world should fear next». January 28, 2019; p. 32–5.