Pourquoi les faux robots sont-ils plus intéressants que les vrais ?

Robin Murphy est professeure d'informatique et d'ingénierie à l'Université A&M du Texas, où elle mène des recherches sur l'intelligence artificielle pour les robots mobiles utilisés dans les zones sinistrées. Or, ce n'est pas pour ses recherches qu'elle s'est récemment fait connaître, mais pour un article de blog qui n'a rien à voir avec la robotique appliquée aux sinistres : les robots dans les films Star Wars.

Les droïdes R2-D2 et C-3PO de Star Wars. (Source de l'image : Wookieepedia)

Robin Murphy est probablement aussi qualifiée que quiconque aujourd'hui pour s'exprimer sur les robots de Star Wars. Elle est l'auteure d'un livre sur l'intelligence artificielle expliquée par le biais de nouvelles classiques de science-fiction, dont certaines écrites par le grand maître de la science-fiction, Isaac Asimov. Pour elle, le meilleur de la science-fiction impliquant des robots a été créé avant les années 1980. Les récits plus anciens se focalisaient sur la condition des robots, tandis que les histoires plus récentes explorent la nature humaine.

Bien sûr, les amateurs de science-fiction d'un certain âge connaissent probablement les trois lois de la robotique formulées par Isaac Asimov en 1942 :

1. Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger.
2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

Robin Murphy souligne que les médias traitent souvent ces trois lois comme l'expression ultime de l'éthique des robots, mais qu'Isaac Asimov les a délibérément créées pour qu'elles paraissent raisonnables tout en présentant une certaine ambiguïté. Plutôt que de faire progresser l'art de la robotique, Isaac Asimov a conçu ses lois pour créer des conflits et l'aider à élaborer des intrigues. En somme, selon Robin Murphy, les lois d'Isaac Asimov portent moins sur des décisions éthiques que sur des directives techniques de base qui permettent d'éviter des accidents.

Il est également instructif de passer en revue les erreurs des premiers auteurs de science-fiction en matière de technologies de robots. La plus marquante dans cette catégorie est peut-être que les histoires partaient souvent du principe que le logiciel, ou le cerveau positronique, fonctionnait correctement. Les problèmes rencontrés dans l'histoire devaient donc provenir de dysfonctionnements matériels. En réalité, le logiciel est le suspect le plus probable dans les cas réels de robots qui identifient des images de manière incorrecte ou de voitures autonomes qui renversent des piétons.

Une autre méprise de l'imagination très courante aux débuts de la science-fiction est ce que l'on pourrait appeler l'esprit de l'ordinateur central. Les écrivains étaient parfois obsédés par un régime de contrôle et de coordination centralisé, idée qui paraît aujourd'hui complètement farfelue. Mais même lorsque les auteurs de science-fiction imaginent des robots capables de fonctionner de manière autonome et d'apprendre des choses, ils ont tendance à se tromper dans les algorithmes d'apprentissage, explique Robin Murphy. En particulier, les auteurs confèrent parfois aux réseaux neuronaux des qualités presque mystiques, peut-être parce « l'apprentissage profond semble… profond, réfléchi et lourd », écrit-elle. En réalité, l'apprentissage profond n'est « profond » qu'en termes de couches de relations statistiques denses entre les fonctionnalités, et non en termes de profondeur. Et rien, en 50 ans de recherche en IA, ne suggère que les robots puissent dépasser les limites de la logique imposée par leur conception.

Cela nous conduit aux commentaires récents de Robin Murphy sur les robots qui peuplent les films Star Wars. Elle explique qu'ils semblent plus avancés que les robots de la vie réelle, et probablement plus intéressants, parce qu'on leur confie souvent des rôles proches de ceux des humains — soldats, barmans, traducteurs et enseignants — plutôt que des tâches difficiles, rébarbatives et dangereuses dans lesquelles les robots excellent. Et les concepteurs de vrais robots seraient probablement renvoyés s'ils proposaient des conceptions d'une complexité comparable à celles des machines de Rube Goldberg dans la saga Star Wars.

Par exemple, un droïde assassin appelé IG-11 possède une tourelle tournante. Cette fonctionnalité ajoute du mouvement et des sensations aux fusillades, mais n'est pas nécessaire dans le monde réel. « Les degrés de liberté excessifs d'IG-11 sont une porte ouverte aux défaillances des articulations et augmentent les exigences de calcul et de contrôle des mouvements. Une conception plus pratique reposerait sûrement sur un réseau fixe de capteurs et d'effecteurs, moins sensationnel mais plus fiable, pour offrir la même couverture à 360° », observe Robin Murphy.

Un autre robot de Star Wars excessivement complexe, surnommé le « chicken walker » AT-ST, est facilement vaincu par les fermiers éleveurs de krill, qui utilisent un simple fil pour le faire trébucher. Ironiquement, Spot, le robot quadrupède de Boston Dynamics, fait une apparition dans cet épisode, conduisant ainsi Robin Murphy à écrire : « La dépendance de l'Empire à l'égard des mécanismes robotiques complexes (aggravée par des Stormtroopers incapables de toucher leurs cibles) explique peut-être sa chute, d'autant plus que Spot, beaucoup plus agile et robuste, est vraisemblablement disponible pour le public sur une planète voisine. »

Enfin, il est intéressant de noter que les personnages de Star Wars se mettent parfois en danger plutôt que d'utiliser des drones aériens. Cela semble difficilement compréhensible, dans la mesure où un hélicoptère baptisé Ingenuity aide déjà le rover Perseverance à éviter les problèmes sur Mars.

Il se pourrait donc que les générations futures prennent autant de plaisir à regarder les films Star Wars que le public d'aujourd'hui. Mais ce sera peut-être en partie pour se moquer de la façon dont les scénaristes ont utilisé les robots.