Comprendre le robot : commentaires sur Goudey et Bonnin (2016)

Qu’est-ce qu’un robot ?

Nous avons tendance à associer les robots au futur. La robotique semble être une technologie de science-fiction qui n’en est encore qu’à ses débuts en réalité. Le terme « robot » est généralement attribué à la pièce de théâtre de l’écrivain tchèque Karel Čapek (1920), R.U.R (Rossum’s Universal Robots). Le mot « robot » vient du terme tchèque robota, qui signifie « travail de serf », dérivant du terme rab, qui signifie « esclave ». Ne laissant rien présager de bon, dans cette pièce de théâtre les robots se révoltent contre leur servitude et exterminent la race humaine.

Cependant, l’origine des machines humanoïdes est beaucoup plus ancienne et remonte au moins aux récits de statues prenant vie, écrits par Homère, Platon et Ovide. En 270 avant J.-C., l’inventeur et mathématicien grec Ctésibios a créé un automate humanoïde actionné par un dispositif à cames et par la force hydraulique, qui fascinait les spectateurs du fait de sa capacité à se lever et s’asseoir (Riskin, 2010). Il ne s’agissait que de la première d’une longue série de tentatives visant à fabriquer des « machines vivantes ». Au 18^ème siècle, les automates étaient capables d’accomplir des prouesses telles que chanter, jouer d’un instrument de musique, « respirer », et bouger les mains et le corps de façon naturelle (Kang, 2011 ; Riskin, 2003 ; 2007 ; Voskuhl, 2013 ; Wood, 2002). Nous pouvons également retrouver cette quête de l’humanité artificielle dans notre projection anthropomorphique de la vie et de l’intelligence sur les marionnettes, les poupées et les animaux de compagnie (par exemple, Daston et Mitman, 2005 ; Derby, 1970 ; Kuznets, 1994 ; Michals, 2008 ; Nelson, 2003). De même, nous pouvons la retrouver dans certaines histoires qui mettent en scène des objets prenant vie, allant de Pinocchio et le monstre de Frankenstein (DeLuca, 1988 ; Klopp, 2012 ; Pizzi, 2012 ; Riva, 2012 ; Zipes, 1996) au Petit Grille-pain courageux (Colatrella, 1999), en passant par la trilogie Toy Story (Honeyman, 2006 ; Lanier et al., 2013).

Dans l’une des nombreuses interprétations d’androïdes de l’univers de la science-fiction, le personnage Data de la série Star Trek doit être démonté afin d’analyser son cerveau positronique. Lors du procès qui s’ensuit afin de déterminer s’il s’agit d’une personne jouissant du droit à la « vie » ou d’un bien du Commandement de Starfleet susceptible d’être démonté en toute impunité, le plaignant souhaitant le démanteler démontre la nature matérielle de Data en l’éteignant et en annonçant : « Pinocchio est cassé : ses fils ont été coupés » (Short, 2003). Néanmoins, la défense finit par gagner en démontrant la transformation humaine des souvenirs, des émotions et de la fascination de Data. Il est considéré comme une personne et autorisé à « vivre ». Dans cet épisode, nous pouvons commencer à constater la nature ambiguë des créatures robotiques humanoïdes – faisant l’objet de l’étude menée par Goudey et Bonnin (2016). Par ailleurs, l’histoire de Frankenstein, la pièce de théâtre Rossum’s Universal Robots, la science-fiction occidentale et les légendes du golem juif nous avertissent que nous avons probablement raison de révérer et craindre ces créatures (par exemple Campbell, 2010 ; Chace, 2015 ; Ford, 2015 ; Gunkel, 2012 ; Kaplan, 2015 ; Mindell, 2015 ; Simons, 1992), comme nous le verrons.

Considérer les robots comme des machines humanoïdes mécaniques, biologiques et informatisées est une vision trop étroite par rapport à ce que nous pourrions penser d’un robot à l’heure actuelle. Cette vision s’applique uniquement à un certain type de robot : l’androïde (ou gynoïde, s’il a l’apparence d’une femme). L’androïde possède une apparence humaine, une intelligence artificielle similaire ou supérieure à celle des êtres humains, et la capacité d’exprimer des émotions (Barfield, 2015). En revanche, un robot constitue une catégorie plus large et a été défini comme étant une machine qui ressent des émotions, pense et agit (Bekey, 2005 ; 2012). Même si certains rétorqueront que recourir à des algorithmes ne constitue pas un raisonnement, lorsque la machine est également capable d’apprendre, cette objection perd en crédibilité (Wiener, 1963). Par conséquent, on peut affirmer que la catégorie de base des robots comprend également les micro-robots (Rembold et Fatikow, 1997), les véhicules sans conducteur, les drones militaires, les robots d’indexation, les thermostats automatiques, les jouets robotisés comme l’AIBO de Sony, les aspirateurs-robots comme le Roomba (Fink et al., 2012 ; Friedman et al., 2003), les satellites et sondes spatiales, les robots industriels en tous genres et les multiples sortes de « bots » du Web (Kaplan, 2015). Siri et d’autres dispositifs de communication bidirectionnelle (homme-machine) à commande vocale sont des robots. A l’heure actuelle, la majorité des vols aériens sont effectués en partie par des pilotes automatiques robotisés (Mindell, 2015). Le développement naissant de l’Internet des Objets implique de confier de nombreuses tâches aux robots. Chez Amazon, des agents robotisés sont chargés de fournir des conseils de lecture personnalisés. La majorité des transactions boursières sont réalisées par des systèmes robotiques autonomes et les sociétés de courtage achètent des biens immobiliers à proximité des marchés boursiers, afin de disposer de chemins de câbles à fibre optique plus courts, permettant à leurs robots d’exécuter les opérations une micro-fraction de seconde plus rapidement que ceux de leurs concurrents. Les robots remplacent l’essentiel du travail humain non seulement dans les usines, mais également dans les bureaux et, de plus en plus, dans les professions telles que la médecine et le droit (Ford, 2015).

Ainsi, les robots ne sont pas aussi nouveaux ni aussi limités que beaucoup de gens supposent. Ils ne sont plus désormais de simples objets de représentation de la science-fiction associés à la vision du futur. Bon nombre de ces robots sont déjà si répandus qu’ils échappent à notre attention. Par ailleurs, ils ne présentent pas tous des caractéristiques humaines telles que celles étudiées par Goudey et Bonnin (2016). Cependant, en approfondissant les conclusions des auteurs, on peut affirmer que l’absence de « visages » et de mobilité n’influencera vraisemblablement pas beaucoup notre acceptation de ces machines. Néanmoins, l’absence de caractéristiques humanoïdes visuelles n’empêche pas nécessairement l’anthropomorphisme. Sorti en 2013, le film « Her » a démontré de manière convaincante que même une voix intelligente désincarnée peut inspirer des sentiments amoureux. La réussite au test de Turing, au cours duquel des machines invisibles doivent nous convaincre de leur humanité par leurs réponses dans le cadre d’une conversation avec l’homme, témoigne de la capacité des machines existantes à induire une confiance crédule quant à leur humanité. Par ailleurs, les premiers programmes informatiques interactifs, comme ELIZA, montrent avec quelle facilité cet objectif peut être atteint (Weizenbaum, 1966). Ainsi, sur la base d’une vision élargie de ce qui constitue un robot, force est de constater qu’il n’y a pas que l’apparence qui compte. Cela signifie que nous pouvons attribuer des caractéristiques humaines aux robots qui ne présentent pas de ressemblance avec l’homme ou totalement dépourvus de présence visuelle.

Ambigüité catégorielle

Bien que les robots étudiés par Goudey et Bonnin (2016) ne risquent pas d’être visuellement confondus avec des êtres humains ou des animaux, il n’est pas aussi facile de déterminer s’ils doivent être considérés comme des machines, des ordinateurs, des jouets ou des personnages animatroniques. Cela serait d’autant plus vrai, s’ils se comportaient comme un être humain – en se déplaçant, en parlant et en répondant. Nao, le plus évolué des trois robots, est doué de langage, de reconnaissance faciale, de reconnaissance vocale, d’apprentissage, de mobilité et de bien d’autres capacités. Comme le reconnaissent les auteurs après avoir analysé les réponses ouvertes des consommateurs concernant leurs premières réactions face à l’apparence des robots, la catégorisation est un processus important de la perception auquel nous avons recours pour donner du sens aux choses qui nous entourent. Goudey et Bonnin citent certaines publications portant sur la psychologie du consommateur, en suggérant qu’il est difficile pour nous d’accepter de nouveaux produits que nous ne parvenons pas à classer facilement dans une catégorie de perception existante. Cependant, dans le cadre du présent article, je souhaite m’intéresser à un point de vue différent sur l’ambigüité catégorielle qui trouve son origine dans l’anthropologie.

Dans son essai Purity and Danger, Mary Douglas (1966) a développé la théorie selon laquelle l’impureté est considérée comme dangereuse, car elle se compose de « matières qui ne sont pas à leur place ». Elle laisse entendre que toutes les cultures utilisent des systèmes de classification afin de garantir l’ordre et que les choses qui ne font pas partie d’une catégorie « appropriée » sont considérées comme sales, polluantes et dégoûtantes. Cela signifie que les choses qui présentent une ambigüité catégorielle, et brouillent ou transgressent les frontières catégorielles, remettent en cause nos croyances culturelles. Ainsi, tout objet ou concept qui bouleverse nos précieuses catégories est considéré non seulement comme souillé, mais également comme une menace à l’ordre social (Stallybrass et White, 1986). Douglas (1966 : 38–39) a illustré cette pollution à partir de situations où les chaussures sont posées sur la table de la salle à manger, les ustensiles de cuisine sont laissés dans la chambre à coucher, les objets d’extérieur se trouvent à l’intérieur de la maison et les sous-vêtements sont portés par-dessus les vêtements. Ces transgressions de frontières défient l’ordre du foyer. Elle précise également que « les séismes, les typhons, les éclipses et les naissances monstrueuses défient l’ordre de l’univers » (Douglas, 1975 : 57). Dürr et Jaffe (2010) décrivent de quelle manière ces théories s’appliquent à la distinction des personnes en fonction de leur sexe, race, classe et âge, en leur attribuant des places « appropriées » dans la société. Campkin et Cox (2007) montrent combien ces notions renforcent la ségrégation urbaine. Par ailleurs, Davidson (1999) et Shildrick (2002) montrent à quel point les naissances difformes et « monstrueuses » menacent notre conception de l’humanité.

Dans l’univers des hommes et des robots, les robots humanoïdes peuvent également menacer notre précieuse conception de l’humanité. Alors que l’objectif de la conception de robots humanoïdes est de les rendre plus attrayants, moins menaçants, et plus fonctionnels afin de faciliter leurs échanges avec les êtres humains, l’idée selon laquelle les robots ressemblent de plus en plus aux êtres humains de façon naturelle représente plutôt une éventualité redoutable dans de nombreuses publications (par exemple Bensford et Malartre, 2007 ; Brooks, 2002 ; Katz, 2003 ; Kim et Kim, 2013 ; Mazis, 2008). Cette crainte ne s’explique pas par l’hypothèse de la « vallée de l’étrange » (uncanny valley). D’autre part, il ne s’agit pas seulement de la crainte que nous soyons reconnus comme étant intellectuellement inférieurs aux machines dans des jeux tels que le jeu d’échecs, le jeu de Go et Jeopardy, ou physiquement inférieurs aux robots sur la chaîne de production industrielle. Cette crainte repose sur une peur plus profonde que nous puissions également être obligés de céder d’autres traits caractéristiques dont nous nous servons depuis longtemps pour démontrer la supériorité de l’espèce humaine – et notamment le calcul, la conscience, la sensibilité, le langage, la composition musicale, la mémoire, la création artistique, le journalisme, la clairvoyance et la compassion. Par exemple, un logiciel d’intelligence artificielle, baptisé Quill, collecte des données provenant de différentes sources, puis rédige des articles d’actualité dans des domaines tels que le monde du sport, des affaires et de la politique, qui sont publiés dans les principaux organes de presse, dont Forbes (Ford, 2015). Selon une estimation effectuée par le DG de la société Narrative Science, plus de 90 % de l’ensemble des articles d’actualité pourraient être rédigés par un algorithme d’ici 15 ans (Levy, 2012). Il a également prédit qu’un ordinateur gagnerait un prix Pulitzer d’ici cinq ans. De l’ensemble de nos catégories culturelles, notre croyance anthropocentrique, selon laquelle nous (les êtres humains) appartenons à l’espèce dominante et tout le reste n’est qu’un outil, une ressource ou quelque chose que nous pouvons maîtriser et dominer, est la plus ancienne et la plus fondamentale dans le cadre de notre auto-définition. Ceux d’entre nous qui enseignent, prennent des décisions comme les admissions des étudiants, font de la recherche et publient leurs travaux, ne devraient peut-être pas se montrer trop sûrs d’eux ni croire que seul un être humain pourrait accomplir notre travail.

Au-delà de cette peur existentielle de transgression catégorielle, à l’heure où les robots renforcent leurs capacités et ressemblent de plus en plus aux êtres humains, il existe une autre crainte, en fin de compte plus profonde, que, d’ici les vingt ou trente prochaines années, nous atteignions « la singularité » – à savoir l’instant où les machines deviennent véritablement nos semblables sur le plan mental (par exemple Kurzweil, 1999 ; 2012 ; Moravec, 1999). A ce stade, on s’attend à ce qu’elles commencent à se reprogrammer et à ce que leur intelligence progresse à un rythme exponentiel, laissant loin derrière ceux d’entre nous qui sont tributaires de l’évolution biologique. A ce moment-là, les machines devraient également être capables de fabriquer d’autres machines, assurant leur propre reproduction de manière efficace (Wiener, 1963). La question serait alors de savoir s’ils ont encore besoin de nous, êtres humains. Pour reprendre les termes de James Barrat (2013), nous aurions alors conçu « notre dernière invention ».

Il existe des scénarios plus optimistes (par exemple Chace, 2015 ; Foerst, 2004 ; Markoff, 2015). Néanmoins, la question préoccupe suffisamment pour avoir donné naissance à une nouvelle discipline visant à étudier l’éthique des machines (par exemple Anderson et Anderson, 2011 ; Johnson, 1985 ; Lin et al., 2012). Réfléchir à l’éthique des machines implique non seulement de s’interroger sur la façon dont nous pourrions concevoir des robots éthiques dont nous n’aurions plus rien à craindre, mais également de déterminer, en raison de la ressemblance grandissante des robots avec les êtres humains, s’il peut s’avérer nécessaire de les considérer comme des personnes non humaines, jouissant de certains droits tels que ceux que nous accordons actuellement aux sociétés, organisations et nations, qui sont toutes susceptibles d’être des personnes aux yeux de la loi. Cette réflexion pourrait finalement nous amener à nous poser d’autres questions d’ordre moral, comme de savoir si nous pouvons ou devons nous marier avec un robot ou permettre aux robots d’adopter des enfants. La série télévisée de fiction suédoise Äkta Människor (Real Humans : 100 % humain) et l’adaptation britannique Humans abordent de nombreuses questions soulevées par l’adoption au sein du foyer de robots humanoïdes réalistes baptisés respectivement les Hubots et les Synths (Den of Geek, 2015).

Conclusion

En élargissant notre vision de ce qui constitue un robot et en étudiant notre investissement au service de nos croyances catégorielles à propos de la singularité de l’être humain, j’ai soulevé plusieurs interrogations immédiates et futures qui dépassent le cadre de l’anthropomorphisme. Si les caractéristiques animales, humaines ou surhumaines que nous attribuons à un robot sont justifiées, le processus relève alors davantage de la perception que de la projection et de l’anthropomorphisme. Je persiste à croire que les conclusions de Goudey et Bonnin (2016) sont justes. Les robots compagnons n’ont pas besoin de ressembler aux êtres humains pour être acceptés, pas plus que nos animaux de compagnie n’ont besoin d’avoir une apparence humaine afin d’être intégrés au sein de notre famille (Mitchell et al., 1997). Nous savons que les mascottes des marques prolifèrent lorsqu’elles ressemblent à des animaux (Brown et Ponsonby-McCabe, 2014) et que nous attribuons également des caractéristiques humaines aux avatars numériques que nous choisissons ou créons pour nous représenter dans les jeux en ligne, les médias sociaux et les mondes virtuels (Belk, 2014 ; Biocca, 1997 ; Yee, 2013). Ces avatars prennent, eux aussi, parfois l’apparence d’animaux et autres formes non humaines ; cela ne semble pas pour autant nous empêcher de les considérer comme des extensions de nous-mêmes (Belk, 2013 ; Boellstorff, 2008).

Je suggère que nous utilisions une définition des robots au sens large et que nous analysions les perceptions et les catégorisations de ces êtres par les consommateurs. Un tel objectif soulève un certain nombre de questions liées à l’étude de la réaction des consommateurs. Elles portent non seulement sur les critères d’ordre comportemental, visuel, verbal et autres facteurs affectant l’anthropomorphisme, mais également nos perceptions des présences virtuelles telles que les assistants personnels en ligne, les « bots » intelligents et les médecins, conseillers en investissement et agents de voyage dotés d’une intelligence artificielle. Cette orientation soulève également certaines questions d’ordre éthique, telles que celles de savoir qui est responsable d’une erreur de diagnostic médical, d’un accident dans un véhicule sans conducteur (voire sans propriétaire) ou d’une machine de guerre robotisée qui tue un civil. La question catégorielle est susceptible d’être particulièrement pertinente avec la catégorie émergente des robots sexuels (Levy, 2007 ; Scheutz, 2012 ; Sullins, 2012). En outre, en raison de l’intensification de la confusion portant sur la distinction entre les hommes, les robots et les cyborgs, il se peut également que nous devrions simplement différencier l’humain de la machine. Les questions morales ne manquent pas et portent non seulement sur l’éventualité d’un mariage avec un robot, mais également sur la possibilité que des robots puissent s’occuper d’enfants humains et de personnes âgées, et servir de mères porteuses (Nourbakhsh, 2013). Si les animaux sont considérés comme « l’autre espèce » qui nous a permis de définir l’humanité par le passé, il se pourrait bien que les robots remplissent cette fonction à l’avenir, même si les frontières catégorielles deviennent floues.

Peut-être n’est-il pas aussi primordial de considérer les robots comme des humanoïdes que de les voir comme des êtres vivants, dotés d’une conscience et sensibles. A partir de ses premiers travaux de recherche avec les robots du MIT, Turkle (1984) a découvert que les jeunes enfants étaient beaucoup plus enclins à considérer les robots comme des êtres vivants capables de penser que ne l’étaient les enfants plus âgés et les adultes. Chez les enfants plus âgés, ce n’était pas tant l’absence d’intelligence ou d’apparence humaine qui les a amenés à conclure que les robots n’étaient pas vivants, mais plutôt l’impression d’absence de sentiments des robots. Néanmoins, avec une nouvelle génération de robots comme Pepper, qui est capable de reconnaître les émotions humaines et de réagir avec empathie, le marché des robots d’assistance commence à se développer, en particulier en Asie (Fowler, 2015 ; Gelderblom et al., 2010 ; Kohlbacher et Rabe, 2015 ; Pols et Moser, 2009 ; Robinson et al., 2014). La réceptivité croissante de la population asiatique aux robots d’assistance actuels laisse également entendre que nous devrions accorder une attention particulière aux différences culturelles quant à la perception des robots (Haring et al., 2014 ; Kamide et al., 2013 ; Klein et Cook, 2012 ; Lee et al., 2012 ; Robertson, 2007 ; Trovato et al., 2012). Certaines de ces conclusions laissent à penser que, même s’il est relativement plus important en Asie que les robots domestiques et d’assistance soient perçus comme des membres de la famille ou des amis, les consommateurs occidentaux adoptent une approche plus fonctionnelle et jugent avant tout les robots en fonction de ce qu’ils peuvent faire pour nous. Ce constat laisse entendre que l’anthropomorphisme des robots peut s’avérer plus important aux yeux des Asiatiques. Cependant, cette conclusion attend également des recherches plus poussées. Dans un effort manifeste visant à répondre à tous les goûts, l’hôtel Henn-na, situé dans un parc à thème à proximité de Nagasaki au Japon, s’est doté d’un personnel robotique comprenant une réceptionniste « humanoïde » réaliste, un groom apparaissant sous les traits d’un dinosaure et un concierge Nao (Rajesh, 2015).

Outre l’idée de concevoir des robots en vue de plaire aux clients, aux touristes et aux bénéficiaires de soins, j’ai également évoqué la possibilité que nous puissions, à l’avenir, avoir à cœur de plaire aux robots, plutôt que l’inverse. Dans le cadre de ce scénario inspiré par la singularité, la problématique ne porte pas uniquement sur la création de robots humanoïdes, mais également sur la conception de robots surhumains susceptibles de devenir nos successeurs. Indépendamment du fait de savoir si ce cas de figure deviendra un jour un phénomène inquiétant, il convient de nous en préoccuper avant qu’il ne soit trop tard. Cela devrait également nous inciter à réexaminer la question du rôle des robots dans nos vies. Si la fonction des robots ne se réduit pas à celle de simples « esclaves » mécaniques et électroniques, quelles sont alors leurs principales caractéristiques ? J’ai tenté d’avancer l’idée qu’ils pouvaient être à la fois des créatures incarnées et désincarnées, susceptibles d’être non seulement douées de « pensée » mais également de « sentiments ». Si tel est le cas, il est alors essentiel de savoir ce qu’ils pensent et ressentent, et de quelle manière. Alors que les robots commencent à acquérir et afficher davantage de caractéristiques humanoïdes ou surhumaines, il pourrait apparaître que notre règne en tant qu’espèce dominante de la planète est compromis. Quoi qu’il en soit, nous devrions nous intéresser à la conception d’un digne successeur éventuel.