DOMIN : Sulla, laissez Mademoiselle Glory vous regarder un peu.
HELENA : (se lève et tend la main) Ravie de vous rencontrer. Ce doit être très dur pour vous, ici, coupée du reste du monde.
SULLA : Je ne connais pas le reste du monde, Mademoiselle Glory. Je vous en prie, asseyez-vous.
HELENA : (s’assoie) D’où venez-vous ?
SULLA : D’ici, l’usine.
HELENA: Oh, vous êtes née ici.
SULLA : Oui, j’ai été fabriquée ici.
HELENA (Surprise) Comment ?
DOMIN : (riant) Sulla n’est pas une personne, Mademoiselle Glory, elle est un robot.
HELENA : Oh, s’il vous plait, excusez-moi.

Cette scène du début de la célèbre pièce de théâtre R.U.R. de Karel Kapek, écrite en tchèque en 1920 et qui a utilisé pour la première fois le mot robot, illustre parfaitement le problème qui finira, tôt ou tard, par se poser vis à vis de ces machines dont l’aspect et les performances se rapprochent de plus en plus de celles de l’être humain. Il est remarquable que cette question soit apparue dès la première utilisation du mot robot, à une époque où ce qu’il désignait n’existait pas encore. Cela prouve à quel point la projection dans l’avenir des machines conduit tout droit à l’interrogation sur le type de relations qu’elles entretiendront avec l’homme le jour où…

Quand l’autre n’est pas humain

Pour David Gunkel, docteur en philosophie, professeur de communication à l’université d’Illinois du Nord, ce problème de science fiction est en train de devenir rapidement un “fait scientifique”. Sa réflexion sur ce sujet fait l’objet d’un livre intitulé The machine question, perspectives critiques sur l’intelligence artificielle, les robots et l’éthique, publié, en anglais pour l’instant, par The MIT Press le 13 juillet 2012. “Beaucoup d’innovations dans la manière de penser au sujet des machines et de leur considération morale ont été apportées par la science fiction et ce livre fait appel à la fiction pour nous montrer comment nous avons à faire face à ce problème”, explique l’auteur. La question de l’éthique se pose dès lors que l’on traite de responsabilité vis à vis d’autrui. Cet autrui est alors supposé être une personne. David Gunkel souligne que cette pierre angulaire de l’éthique moderne a été significativement contestée, en particulier par les militants de la cause des droits des animaux mais également par ceux qui travaillent à la pointe de la technologie.

“Si nous admettons que les animaux méritent une considération morale, nous devons sérieusement nous interroger sur les machines qui constituent la prochaine étape dans le regard porté sur un autre qui soit non-humain”, déclare David Gunkel. Bien entendu, ce questionnement constitue le fondement du film de Steven Spielberg A.I. Artificial Intelligence (2001) dans lequel un enfant robot est vendu à une famille qui veut remplacer un fils défunt. L’attachement de la mère envers cet enfant parfait révèle l’un des aspects les plus troublants des mécanismes de l’affection chez l’être humain. Son objet n’est pas obligatoirement humain. Les liens entretenus avec les animaux mais aussi les objets comme les automobile, par exemple, le montrent.

Qui est responsable des actions des machines ?

Que se passera-t-il lorsque les machines disposeront à la fois d’une apparence et d’une intelligence qui se rapprochera, voire dépassera, celles des hommes ? C’est la question que traite David Gunkel dans son livre. Elle devrait faire couler beaucoup d’encre avant que nous trouvions la clef de cette nouvelle relation. L’auteur souligne le cas des interactions en ligne avec des machines et celui, de plus en plus fréquent, des relations entre elles. “Les machines ont pris le contrôle. C’est arrivé”, estime-t-il.

Les problèmes posés par la place de plus en plus importante et stratégique des machines ne se résument pas aux questions psychologiques. Lorsqu’elles deviennent capables d’innover par elles-mêmes et de devenir plus intelligentes, qui est responsable de leurs actions ? Leur fabricant, leur concepteur ? Mais si des machines fabriquent d’autres machines ? “On pourrait considérer l’informaticien qui a écrit le programme initial comme un parent qui n’est plus responsable des décisions et des innovations de machines qu’il a conçues“, déclare David Gunkel.

Code de robot-éthique

Certains gouvernements commencent à statuer sur ces questions comme la Corée du Sud qui a créé un code éthique afin d’éviter que les humains n’abusent les robots et vice-versa. Le Japon travaille sur un code de comportement des robots destiné, en particulier, à ceux qui sont employés par des personnes âgées.

Pour David Gunkel, il est nécessaire de susciter le débat sur ces questions dans la communauté des ingénieurs qui fabriquent ces machines et qui ne sont pas préparés aux interrogations éthiques. Le but de son livre est de contribuer à l’émergence de telles discussions. “Il s’agit de relier les points des différentes disciplines et d’amener les scientifiques et les ingénieurs à parler aux philosophes qui peuvent apporter 2500 ans de réflexions éthiques pour les aider à traiter les problèmes posés par les nouvelles technologies”. Difficile de refuser cette main tendue…

Et vous ? Qu’en pensez-vous ? Faudra-t-il, un jour, considérer les robots comme une catégorie particulière de personnes ?

Michel Alberganti

– L’impact des grands prédateurs sur l’environnement en général et leurs écosystèmes respectifs en particulier, serait sous-évalué, selon une récente étude publiée dans Science. C’est avec la diminution de leurs populations qu’on s’aperçoit de leur rôle essentiel dans l’équilibre naturel. «Les recherches récentes montrent que la disparition de ces animaux a des conséquences beaucoup plus importantes que ce que l’on pensait sur des questions telles que la propagation des maladies, le développement des espèces invasives, la séquestration du carbone ou encore les incendies », souligne l’étude signalée par Le Figaro.

– Restons dans les prédateurs. Outre-Manche, The Independent s’intéresse à la reconquête de la France par les loups, qui seraient environ 200 dans l’Hexagone. Sous la pression des éleveurs, la ministre de l’environnement, Nathalie Kosciusko-Morizet, vient d’assouplir considérablement le dispositif sur l’abattage de ces animaux. Alors même qu’il s’agit d’une espèce protégée par la convention de Berne que la France a ratifiée en 1990.

– Une des grandes questions sans réponse de la paléoanthropologie concerne la raison de la disparition des hommes de Néandertal. Peut-être ont-ils simplement été submergés par le nombre d’hommes modernes déferlant sur l’Europe il y a quarante millénaires.

– Alors qu’une page de la conquête spatiale vient de se tourner avec la fin des navettes américaines, je vous signale une série d’été de Libération consacrée à la question.

– On peut aller étudier l’évolution du vivant dans les forêts vierges. On peut aussi le faire en pleine ville, à New York par exemple.

– Comme c’est toujours en été, au moment où l’actualité se fait moins abondante, que les journaux généralistes se souviennent que la science existe, voici une autres série estivale, celle que Le Temps a commencée au début du mois de juillet, qui passe en revue les éléments chimiques du tableau de Mendeleïev.

– Lovotics (mot-valise mélangeant “love” et “robotics”) vous proposer de tomber amoureux d’une boule de poils robotisée (une sorte de serpillière à franges et à roulettes parlant comme R2D2)  et de s’en faire aimer en retour. Bon…

– Pour finir : c’était une des photos d’OVNI les plus célèbres de la planète. Prise en 1990, elle matérialisait la vague d’objets volants non identifiés qui “déferlait” sur la Belgique à cette époque. Plus de vingt ans après, son auteur vient de reconnaître qu’il s’agissait d’un canular et qu’il avait photographié… un triangle de polystyrène muni de spots lumineux !

Pierre Barthélémy

– Découverte en 1846, la planète Neptune, la plus éloignée du système solaire, vient de boucler sa première révolution depuis cette date. Un tour de Soleil qui lui a pris 165 ans. Pour rappel, la liste des planètes ne compte plus que 8 représentantes depuis que Pluton en a été exclue en 2006.

– Selon The Fiscal Times (je sais, j’ai parfois de curieuses lectures), la révolution des robots est en marche. Et la première victime pourrait bien être votre travail… De quoi entretenir le renouveau du luddisme.

– J’avais signalé, en juin, l’éruption du volcan chilien Puyehue. Le Boston Globe propose un magnifique portfolio sur les paysages environnants, recouverts de cendres. Certains clichés ont une atmosphère de fin du monde.

– Alors que la navette spatiale américaine effectue son dernier vol, Popular Science récapitule ce que les “shuttles” nous ont apporté dans la vie de tous les jours, d’un complément nutritionnel que l’on retrouve dans les aliments pour bébés à certains outils de désincarcération utilisés par les pompiers.

– Aux Etats-Unis, un nouvel herbicide est soupçonné de tuer les arbres.

– Les escargots aussi prennent l'”avion”. Des chercheurs nippons ont en effet constaté que 15 % des gastéropodes ingérés par un oiseau, le zostérops du Japon, survivaient à la digestion et reprenaient le cours de leur vie une fois relâchés avec les excréments. En ayant parfois parcouru de longues distances par la voie des airs.

– Les diamants n’aiment pas les UV qui leur arrachent des atomes. C’est évidemment insuffisant pour vous empêcher de sortir avec vos rivières de diamants et vos solitaires mais cette propriété pourrait intéresser les spécialistes des nanotechnologies désireux de sculpter très finement la surface de ces cristaux de carbone.

– Pour finir : une historienne équatorienne pense être sur la piste de la momie d’Atahualpa, le dernier empereur inca tué par les conquistadores espagnols en 1533.

Pierre Barthélémy

On n’a pas attendu George Lucas et son sentencieux androïde C-3PO pour savoir que les robots pouvaient parler aux humains. Le vieil Homère l’avait déjà imaginé lorsque, dans l’Iliade, il décrivait les deux curieuses assistantes qui aidaient Héphaïstos à forger une nouvelle armure pour le bouillant Achille : “Elles sont en or mais elles ont l’aspect de vierges vivantes. Dans leur cœur est une raison ; elles ont aussi voix et force ; par la grâce des Immortels, elles savent travailler.” On ignore cependant de quoi causent ces dames de métal lorsqu’elles n’attisent pas le feu de la forge…

De nombreuses machines se sont mises à discuter avec les humains au cours des dernières années, notamment par le biais d’Internet. Il y a beaucoup de charmantes jeunes femmes qui vous aident à faire vos démarches en ligne, que ce soit Léa sur le site de la SNCF, Anna chez Ikea, Clara à la FNAC (qui ne manque pas d’humour puisqu’à la question “Tu veux boire un verre après le boulot ?” elle répond du tac au tac “J’évite de boire, ça me fait rouiller…”), etc. Tous ces “chatbots” (mot-valise anglais que l’on pourrait traduire par “robavards”) ont cependant du mal à soutenir une véritable conversation. Depuis plusieurs lustres des programmes de discussion ont vu le jour et les plus performants d’entre eux tentent de réussir le test de Turing. Dans un célèbre article publié en 1950 dans la revue Mind, le mathématicien britannique Alan Turing, père de l’informatique, proposa un test baptisé “Jeu de l’imitation”, censé déterminer si une machine pouvait être considérée comme “intelligente” (ou “consciente”, sachant que beaucoup de définitions différentes peuvent se cacher derrière ces deux mots).

Le principe du jeu, tel que le décrivit Turing, est le suivant. Un humain et un programme de conversation sont installés dans deux pièces séparés. Un juge, humain, pose des questions par écrit (par téléscripteur à l’époque de Turing, à l’aide d’un programme de “chat” aujourd’hui) aux deux candidats, sans savoir lequel est l’homme et lequel est la machine. Turing postulait que si, dans au moins 50 % des cas, le juge ne se montrait pas capable, au vu des réponses, de distinguer l’homme de l’ordinateur, alors ce dernier pouvait être considéré comme intelligent. Le test a été critiqué, notamment par le philosophe américain John Searle qui expliqua en 1980 que les programmes de conversation, pour astucieux qu’ils fussent, n’en étaient pas moins stupides puisqu’ils ne comprenaient pas ce qu’ils disaient (tout comme on peut dire que les meilleurs programmes d’échecs actuels ont beau être plus forts que n’importe quel humain, ils ignorent qu’ils jouent aux échecs…).

Pour illustrer son argumentation, Searle s’imagina enfermé dans une pièce isolée du monde, ne contenant que des livres de questions et de réponses écrites en chinois, langue qu’il ne connaissait pas. De temps en temps, par une fente pratiquée dans un mur, il recevait une feuille de papier comportant des idéogrammes. Son travail consistait à retrouver ces signes dans les livres de questions et à recopier la réponse correspondante, toujours en chinois. Selon Searle, le monde extérieur pouvait ainsi penser que le « prisonnier » de la chambre parlait cette langue alors que ce n’était pas le cas. De même, les ordinateurs pouvaient donner l’illusion d’une conversation alors qu’ils ne comprenaient pas ce qu’ils disaient. Cet exemple a suscité un immense débat dans le monde de l’intelligence artificielle. Les opposants à cette thèse affirmant que, si l’homme enfermé dans la pièce n’entend pas le chinois, le système dans sa globalité ” pièce + livres + homme” parle effectivement cette langue…

Quoi qu’il en soit, le test de Turing est toujours d’actualité, soixante ans après avoir été imaginé. Depuis 1991, se tient chaque année le prix Loebner qui évalue les meilleurs “robavards”. Il faut bien reconnaître qu’en général, les juges ne se font pas avoir. Mais, cette année, pour la vingtième édition du prix qui a eu lieu le 23 octobre, l’un d’entre eux, au bout de 25 minutes de discussion avec le candidat humain et le robot, s’est laissé abuser et a pris Suzette, le programme de Bruce Wilcox, pour ce qu’elle n’était pas ! Toutefois, duper un seul juge n’est pas suffisant, selon le règlement, pour réussir l’épreuve : il faut en berner au moins deux.

Au vu des productions de Suzette, laquelle élude assez maladroitement les questions qu’elle ne comprend pas et en pose elle-même pour détourner la conversation, on est en droit de se demander comment ce juge a pu se tromper. La réponse réside sans doute dans le fait que les candidats humains, des étudiants facétieux, ont tout fait pour passer, eux, pour des robots ! L’un d’eux y est visiblement parvenu. Comme quoi le test de Turing, censé évaluer l’intelligence des machines, peut aussi servir à mesurer la bêtise des humains !

Pierre Barthélémy

Post-scriptum : Suzette ne parle qu’anglais et elle est un peu submergée de demandes ces jours-ci, ce qui explique qu’il est difficile de lui parler… La rançon de la gloire. Si vous ne parvenez pas à vous connecter avec cette nouvelle star, essayez Jabberwacky, de Rollo Carpenter (vainqueur du prix Loebner en 2005 et 2006), programme dont on peut ajuster le niveau de réaction et d’émotions…

– Il s’appelle Robonaut 2 et on le surnomme familièrement R2, comme le petit droïde de Star wars. Ce robot conçu par la NASA en partenariat avec General Motors sera le septième passager du prochain vol de la navette spatiale Discovery, dont le décollage est programmé pour le 1^er novembre.

– Plus d’un million d’Européens ont signé une pétition demandant à la Commission de Bruxelles de geler l’introduction des organismes génétiquement modifiés. Un nouvel élément de poids dans le débat compliqué sur les OGM.

– La guerre du Nil aura-t-elle lieu ? Le New York Times évoque les tensions croissantes entre, d’un côté, l’Egypte et le Soudan, et, de l’autre, les sept pays que le plus grand fleuve du monde traverse en amont. Ces derniers aimeraient bien pouvoir l’exploiter davantage mais l’Egypte et ses 80 millions d’habitants, très dépendants de l’eau du Nil, craignent que leurs voisins, en développant leur agriculture et en construisant des barrages, ne les privent d’une  partie conséquente de la si précieuse ressource liquide.

– Un nouveau filon de dinosaures vient d’être mis au jour. Il se trouve dans une carrière charentaise.

– On pourrait très bien éviter de vous ouvrir le crâne pour faire de la chirurgie dans votre cerveau. A la place, il suffirait de passer… euh… par les orifices naturels que sont les orbites.

– Des exosquelettes permettent à des paralysés de remarcher. A lire et à voir sur le site du New Scientist.

– Pour terminer, je vous conseille vivement le papier très pertinent de Martin Robbins (qui blogue pour The Guardian) sur le journalisme scientifique, ses pratiques, ses contraintes, son train-train… et les solutions que l’on pourrait adopter pour secouer un peu la poussière qui recouvre la manière dont les journaux couvrent la science.

Pierre Barthélémy

Post-scriptum : même si le premier article de ce blog date du jour de ma fête, soit le 29 juin, Globule et télescope ne s’est véritablement ouvert au public que le 9 août, date à laquelle il est officiellement apparu sur Slate.fr. C’était il y a deux mois, donc. Et en deux mois, le Globule a fait du chemin puisqu’il se retrouve sixième sur le classement des blogs “Sciences” publié chaque mois par Wikio. Merci à tous pour votre soutien. Ce n’est qu’un début ! Voici le top 20 “Sciences” de Wikio pour octobre :

Classement analysé par Wikio

lire le billet