DOMIN : Sulla, laissez Mademoiselle Glory vous regarder un peu.
HELENA : (se lève et tend la main) Ravie de vous rencontrer. Ce doit être très dur pour vous, ici, coupée du reste du monde.
SULLA : Je ne connais pas le reste du monde, Mademoiselle Glory. Je vous en prie, asseyez-vous.
HELENA : (s’assoie) D’où venez-vous ?
SULLA : D’ici, l’usine.
HELENA: Oh, vous êtes née ici.
SULLA : Oui, j’ai été fabriquée ici.
HELENA (Surprise) Comment ?
DOMIN : (riant) Sulla n’est pas une personne, Mademoiselle Glory, elle est un robot.
HELENA : Oh, s’il vous plait, excusez-moi.

Cette scène du début de la célèbre pièce de théâtre R.U.R. de Karel Kapek, écrite en tchèque en 1920 et qui a utilisé pour la première fois le mot robot, illustre parfaitement le problème qui finira, tôt ou tard, par se poser vis à vis de ces machines dont l’aspect et les performances se rapprochent de plus en plus de celles de l’être humain. Il est remarquable que cette question soit apparue dès la première utilisation du mot robot, à une époque où ce qu’il désignait n’existait pas encore. Cela prouve à quel point la projection dans l’avenir des machines conduit tout droit à l’interrogation sur le type de relations qu’elles entretiendront avec l’homme le jour où…

Quand l’autre n’est pas humain

Pour David Gunkel, docteur en philosophie, professeur de communication à l’université d’Illinois du Nord, ce problème de science fiction est en train de devenir rapidement un “fait scientifique”. Sa réflexion sur ce sujet fait l’objet d’un livre intitulé The machine question, perspectives critiques sur l’intelligence artificielle, les robots et l’éthique, publié, en anglais pour l’instant, par The MIT Press le 13 juillet 2012. “Beaucoup d’innovations dans la manière de penser au sujet des machines et de leur considération morale ont été apportées par la science fiction et ce livre fait appel à la fiction pour nous montrer comment nous avons à faire face à ce problème”, explique l’auteur. La question de l’éthique se pose dès lors que l’on traite de responsabilité vis à vis d’autrui. Cet autrui est alors supposé être une personne. David Gunkel souligne que cette pierre angulaire de l’éthique moderne a été significativement contestée, en particulier par les militants de la cause des droits des animaux mais également par ceux qui travaillent à la pointe de la technologie.

“Si nous admettons que les animaux méritent une considération morale, nous devons sérieusement nous interroger sur les machines qui constituent la prochaine étape dans le regard porté sur un autre qui soit non-humain”, déclare David Gunkel. Bien entendu, ce questionnement constitue le fondement du film de Steven Spielberg A.I. Artificial Intelligence (2001) dans lequel un enfant robot est vendu à une famille qui veut remplacer un fils défunt. L’attachement de la mère envers cet enfant parfait révèle l’un des aspects les plus troublants des mécanismes de l’affection chez l’être humain. Son objet n’est pas obligatoirement humain. Les liens entretenus avec les animaux mais aussi les objets comme les automobile, par exemple, le montrent.

Qui est responsable des actions des machines ?

Que se passera-t-il lorsque les machines disposeront à la fois d’une apparence et d’une intelligence qui se rapprochera, voire dépassera, celles des hommes ? C’est la question que traite David Gunkel dans son livre. Elle devrait faire couler beaucoup d’encre avant que nous trouvions la clef de cette nouvelle relation. L’auteur souligne le cas des interactions en ligne avec des machines et celui, de plus en plus fréquent, des relations entre elles. “Les machines ont pris le contrôle. C’est arrivé”, estime-t-il.

Les problèmes posés par la place de plus en plus importante et stratégique des machines ne se résument pas aux questions psychologiques. Lorsqu’elles deviennent capables d’innover par elles-mêmes et de devenir plus intelligentes, qui est responsable de leurs actions ? Leur fabricant, leur concepteur ? Mais si des machines fabriquent d’autres machines ? “On pourrait considérer l’informaticien qui a écrit le programme initial comme un parent qui n’est plus responsable des décisions et des innovations de machines qu’il a conçues“, déclare David Gunkel.

Code de robot-éthique

Certains gouvernements commencent à statuer sur ces questions comme la Corée du Sud qui a créé un code éthique afin d’éviter que les humains n’abusent les robots et vice-versa. Le Japon travaille sur un code de comportement des robots destiné, en particulier, à ceux qui sont employés par des personnes âgées.

Pour David Gunkel, il est nécessaire de susciter le débat sur ces questions dans la communauté des ingénieurs qui fabriquent ces machines et qui ne sont pas préparés aux interrogations éthiques. Le but de son livre est de contribuer à l’émergence de telles discussions. “Il s’agit de relier les points des différentes disciplines et d’amener les scientifiques et les ingénieurs à parler aux philosophes qui peuvent apporter 2500 ans de réflexions éthiques pour les aider à traiter les problèmes posés par les nouvelles technologies”. Difficile de refuser cette main tendue…

Et vous ? Qu’en pensez-vous ? Faudra-t-il, un jour, considérer les robots comme une catégorie particulière de personnes ?

Michel Alberganti

Il y a quelques jours, l’équipe d’Emmanuel Martinod, de l’hôpital Avicenne de Bobigny, a annoncé avoir réalisé, en octobre 2009, la première greffe d’une bronche artificielle, confirmant s’il en était besoin que les chirurgiens français, qui ont déjà innové avec la première double greffe des mains et celle du visage, s’y entendaient en matière de transplantation. Même si ces opérations soulèvent des débats éthiques, on est loin de traiter les chirurgiens qui les effectuent de docteurs Frankenstein. Cela n’a pas toujours été le cas : les rapprochements ont parfois été faits avec le  personnage inventé par Mary Shelley, notamment lors des tentatives de greffe… de têtes.

Ce n’est sans doute pas la page la plus glorieuse de la science mais la tenir dans l’ignorance du public n’est pas non plus une bonne solution. Bien sûr, ces expériences n’ont pas été effectuées sur des humains. Dans les années 1950, le Soviétique Vladimir Demikhov, pionnier de la transplantation d’organes, greffa ainsi le haut du corps d’un chiot (tête, pattes avant et avant du corps) sur le cou d’un chien adulte, connectant les principaux vaisseaux sanguins du petit sur le système cardio-vasculaire du grand. La survie de la chimère ainsi obtenue était en général de quelques jours et chaque entité de ce chien à deux têtes respirait, bougeait, mangeait… Demikhov avait pour objectif de parvenir à la greffe de cœur chez l’homme, qui fut réalisée pour la première fois par le chirurgien sud-africain Christiaan Barnard en 1967, mais pas de remplacer une tête par une autre.

Ce fut l'”œuvre” de l’Américain Robert White. Né le 21 janvier 1924 (jour anniversaire de la décapitation de Louis XVI), ce chirurgien commença à faire parler de lui en 1962 en extrayant le cerveau d’un singe et en le maintenant en “vie” pendant plusieurs heures, grâce à un circuit sanguin artificiel. Une expérience dont il publia la méthode dans la prestigieuse revue Science. Deux ans plus tard, il transplanta le cerveau d’un chien dans le cou d’un autre sans être  capable de prouver que la “conscience” de l’animal était toujours présente. Pour répondre à la question, il eut l’idée de greffer la tête d’un singe A sur le corps d’un singe B. L’expérience fut réalisée en 1970, il y a donc plus de quatre décennies. Voici, ci-dessous, un reportage réalisé sur le sujet par Jim Fields en 2007, où un Robert White très âgé (il est mort en 2010), revient sur les lieux de ses expérimentations et raconte. D’emblée, je précise deux choses : ce film de 14 minutes est en anglais non sous-titré (un documentaire analogue sous-titré en français est visible ici) et, surtout, certaines scènes sont à déconseiller fortement aux personnes sensibles.

Sur le plan purement technique, l’opération “réussit” en ce sens que la tête greffée sortit vivante de l’anesthésie, que l’animal, quoique tétraplégique (on ne savait pas et on ne sait toujours pas reconnecter une moelle épinière), avait l’usage de ses sens et une activité cérébrale. Au point que Robert White, dans son rôle de médecin qui veut sauver des vies, se mit à imaginer une transplantation de tête chez des humains, en récupérant les corps de personnes en état de mort cérébrale pour les donner à ceux dont le cerveau fonctionnait bien mais dont le corps était en train de lâcher. Cela resta une idée. Mais, comme on le voit dans le documentaire, le chirurgien américain, bien des années plus tard, pensait toujours que la greffe de tête (que l’on devrait plutôt appeler greffe de corps sans tête) deviendrait réalité au cours du XXI^e siècle.

Certaines des expériences de Robert White ont vraiment aidé la science à avancer, en ce sens que ses techniques de préservation des greffons par refroidissement ont été reconnues. Militant pour le droit à la vie à tout âge, fervent catholique et membre de l’Académie pontificale des sciences, il s’était impliqué dans les questions d’éthique au point de fonder le comité de bioéthique du pape Jean Paul II. Cela ne l’empêcha pas d’être vivement critiqué par les défenseurs des droits des animaux en raison de ses expériences “extrêmes”. Parler de ses expérimentations animales aujourd’hui fait toujours courir le risque de juger le passé avec les lumières du présent. Nous vivons à une époque où l’on légifère pour restreindre au maximum la mise à mort d’animaux au nom de la science. Il y a un demi-siècle, où l’on envoyait allègrement des chiens ou des singes agoniser dans l’espace, les critères et les règles étaient bien différents, tout comme l’acceptation de ces sacrifices animaux par la société.

En gardant en tête ce préambule, je vous propose de répondre à deux questions : 1/ la mort d’animaux de laboratoire se justifie-t-elle si elle a pour but de sauver de nombreuses vies humaines ? 2/ Si oui, les expériences de Vladimir Demikhov et Robert White entrent-elles dans cette catégorie ? A vos claviers.

Pierre Barthélémy

Post-scriptum : puisque je constate aux commentaires que ce genre de débat vous intéresse, je signale à tout hasard que, ces 11 et 12 mars, se tient à la Cité des sciences de Paris un colloque intitulé “Le savant, le politique et le citoyen” . Il sera essentiellement axé sur la place que doit prendre le chercheur dans la gouvernance mondiale du climat, notamment après l’échec de la conférence de Copenhague en décembre 2009 et la montée en puissance des climatosceptiques. Je participerai samedi à la dernière table ronde du colloque, qui sera consacrée au rôle des médias et d’Internet.

Il est des découvertes que l’on fait par hasard. C’est un peu ce qui est arrivé à une équipe de généticiens du Baylor College of Medicine de Houston (Etats-Unis). Ces chercheurs utilisent des puces à ADN pour identifier des anomalies génétiques chez des enfants présentant des problèmes intellectuels et de développement. Mais, pour plusieurs de ces jeunes patients, la cause de leurs retards n’était pas à rechercher dans la disparition ou la duplication anormale de matériel génétique.

Comme ces généticiens l’expliquent dans une correspondance adressée au Lancet et publiée dans le dernier numéro de cette prestigieuse revue médicale, les biopuces utilisées pour ces analyses permettent aussi d’identifier des régions de l’ADN caractérisées par l’absence d’hétérozygotie. En clair, d’identifier des zones de l’ADN où la partie apportée par le père est semblable à la partie apportée par la mère. Ceci peut d’expliquer par un phénomène nommé disomie uniparentale (lorsqu’une personne reçoit d’un de ses deux parents une paire de chromosomes ou des fragments de chromosomes correspondants). Mais cela peut aussi expliquer plus simplement, par le fait qu’au départ les deux parents de l’enfant partagent déjà le même matériel génétique, qu’ils soient père et fille, mère et fils ou bien frère et sœur.

Dans tous les cas, cela s’appelle un inceste. Au cours de leurs recherches, les généticiens du Baylor College of Medicine ont identifié, chez plusieurs enfants atteints de problèmes de développement ou d’anomalies congénitales multiples, des absences d’hétérozygotie à grande échelle, sur plusieurs chromosomes. Dans certains cas, comme celui d’un petit garçon de trois ans victime de plusieurs problèmes de santé, ces régions représentent un quart du génome. Ce qui est cohérent avec l’idée d’un inceste puisque lorsque deux personnes ayant en commun 50% de leur patrimoine génétique ont un enfant, celui-ci présentera un taux d’homozygotie de 25%. Par ailleurs, tout ceci est à mettre en rapport avec le fait que handicaps et maladies génétiques sont plus fréquents dans les populations nés d’inceste ou à forte consanguinité.

Cette découverte “collatérale” à l’utilisation croissante des puces à ADN n’est pas, selon les auteurs de la correspondance au Lancet, sans conséquences éthiques et légales. “Dans les cas, écrivent-ils, où la mère est mineure, les praticiens qui découvrent la probabilité d’une relation incestueuse pourraient être tenus de le rapporter aux services de protection de l’enfance et, potentiellement, à la police puisque la grossesse pourrait avoir pour contexte un abus sexuel – peut-être par le père ou par un frère. L’obligation qu’aurait le médecin de le déclarer est moins claire dans des cas où la mère est une adulte et pourrait être liée au fait qu’elle ait été mineure ou majeure au moment où elle est devenue enceinte.” Face au vide déontologique existant en ce domaine, ces généticiens suggèrent aux comités d’éthique américains et européens de discuter des nouvelles problématiques qui surgissent avec les tests ADN. “Je suis absolument certain que ça va devenir un problème important”, a déclaré Ross Upshur, directeur du Centre de bioéthique à l’Université de Toronto, dans une dépêche AP. “La science avance tellement vite qu’on découvre souvent des informations que nous n’imaginions pas devenir un jour aussi sensibles.”

Pierre Barthélémy