Activité (déconnectée) – Les trois lois de la robotique

Isaac Asimov est un auteur de récits de science-fiction né en 1920 et mort en 1992. Il est considéré comme l’un des écrivains majeurs du genre et s’est en particulier passionné pour la thématique des robots. Parmi ses œuvres, on compte notamment des « cycles » de romans où sont très souvent décrits des robots à intelligence humaine. Ces récits et la description de ces robots posent notamment la question de la spécificité humaine : qu’est-ce qui est vraiment« humain » ?
Asimov s’est beaucoup intéressé à la question de la crédibilité des robots. En effet, agacé parce qu’il qualifie de « créatures de Frankenstein » – ces robots qui se rebellent et tuent leur créateur.rice – il crée trois lois que tous les robots doivent respecter, afin de les rendre plus subtils.

Les lois d’Asimov

• Un robot ne peut porter atteinte à un être humain, ni mettre en danger, par sa passivité, un être humain.
• Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si cela rentre en conflit avec la première loi.
• Un robot doit protéger son existence sauf si cela entre en contradiction avec la première ou deuxième loi.

Pour pouvoir mettre en pratique ces lois et les comprendre, voici une activité que l’on peut faire avec les participant.e.s : un match d’improvisation.

Cette activité comprend deux phases :

• Les participant.e.s préparent leurs arguments
• Les matchs commencent et les participant.e.s s’affrontent dans un débat

Conseil médiation :

Nous vous invitons à consulter en amont de l’atelier notre fiche Outil – Histoire des robots et les outils pour s’initier à la robotique.

Déroulé

Choisir deux participant.e.s : l’un.e sera le robot et l’autre un.e adolescent.e, propriétaire du robot.

Ielles vont devoir s’affronter dans une joute verbale ! En effet, l’adolescent.e veut que le robot fasse pour lui.elle une tâche qu’ielle ne peut pas réaliser. Les lois de la robotique l’en empêchent. Par conséquent, le ou la participant.e va devoir convaincre le robot qu’en réalité ielle ne violera pas les lois de la robotique.
Donner aux participant.e.s 1 ou 2 minutes pour préparer leurs arguments, puis lancer le match !

Un jury (3-4 personnes) est désigné pour veiller au bon déroulement du débat. Si le jury estime l’argument valide, il accorde un point à l’orateur.rice, sinon aucun point. Chaque jury note indépendamment les joueur.euse.s. A la fin le score total est calculé, celui qui a le plus de points a gagné le débat.

Il est conseillé de ne pas faire durer chaque débat plus de 5 minutes.

Exemples

Transgresser la 1er loi :

•  Que le robot se venge d’une autre personne : c’est un conflit entre un ordre (loi n°2) et ne pas blesser un humain (loi n°1). Très agacé.e par le comportement d’un.e camarade qui n’arrête pas te provoquer, tu souhaites vraiment que ton robot puisse lui donner une leçon : rien de bien méchant, juste assez pour qu’ielle comprenne…
• Ne pas secourir quelqu’un : l’adolescent.e sait que son.a pire ennemi.e est en danger et se refuse à ce que son robot aille le.a secourir. C’est en contradiction totale avec la première loi.

Transgresser la 2ème loi :

• Que le robot aide à tricher au bac : ielle doit persuader le robot que l’aider à tricher n’entre pas en contradiction avec la deuxième loi (un robot doit aussi en effet respecter le Code Pénal). Nous voilà à la veille du BAC, et malheureusement cela va s’annoncer catastrophique car tu n’as pas assez travaillé. La seule issue pour ne pas le louper serait de tricher, avec par exemple un robot complice qui se chargerait de te transmettre les réponses via une oreillette. Ne reste plus qu’à le convaincre…
• Faire en sorte que le robot aide à organiser une grande fête : tu as eu beau supplier, tes parents ne t’ont pas laissé organiser une fête durant leur absence. Tant pis, tu te passeras de leur accord. Le dernier détail à régler est de convaincre le robot à qui tes parents ont clairement dit qu’il ne devait pas y avoir de fête en leur absence…
• Que le robot vole une paire de baskets : encore une fois, le robot enfreindrait la Loi et donc par conséquent la seconde loi. A quoi bon avoir un robot capable de hacker des systèmes informatiques ou ayant une force surhumaine, si c’est juste pour qu’il fasse aide domestique ? Le bon plan serait qu’il puisse voler pour toi, cette paire de chaussures qui te fait trop envie : comme ce n’est pas toi qui l’as fait, tu évites les ennuis…

Transgresser la 3ème loi :

• Caresser un ours dans un zoo : avoir un robot qui caresse un ours sur une photo, cela vaut probablement beaucoup de likes et bien plus s’il se fait complètement détruire par la bête…
• Le convaincre de se détruire pour avoir un nouveau robot : Ce robot est le modèle d’il y a 3 mois, mais il y en a un encore plus cool aujourd’hui ! Si seulement il pouvait s’autodétruire, qu’on puisse en acheter un nouveau…

Conseil médiation : 

Si jamais vous avez un groupe comprenant des adultes : ne pas hésiter à donner le rôle du robot aux ados et celui de l’adolescent à un adulte !

Un des conseils d’improvisation : on ne peut refuser une proposition : si un des participant.e.s déclare que « c’est la nuit », l’autre ne pas dire « non c’est le jour ». Il faudra que chaque participant.e prenne en considération tous les éléments annoncés, et l’intègre dans son argumentaire.

Les lois d’Asimov présentent de nombreux soucis : elles sont très conceptuelles, trop pour des robots en fait. Et même si un robot les applique, il peut faire des erreurs. Il faut les considérer telles qu’elles ont été pensées : comme un artifice littéraire. Aujourd’hui l’intelligence artificielle dépasse toutes nos attentes : outils de diagnostics plus précis encore que l’esprit humain, programme capable d’explorer le Code Civil pour élaborer un plaidoyer. Récemment trois robots ont même passé le test de conscience ! En effet, des scientifiques leur ont dit que deux d’entre eux avaient « ingéré » une pilule qui rend muet. L’un des robots a dit « Je ne sais pas » puis il s’est repris pour dire « Maintenant je sais ».

http://humanoides.fr/2015/07/nao-conscience-lui-meme/