Le danger des androïdes

J'ai commencé mon activité professionnelle en m'intéressant à la conscience et aux états modifiés de conscience. De là j'ai étudié l'hypnose et les méandres du subconscient. Peu d'écrits existent sur l'architecture sur laquelle se construit le subconscient et notamment les traumatismes et le rapport entre le cerveau émotionnel et le subconscient.

Or, si l'on veut un jour mettre en circulation libre des androides il faudra bien s'y intéresser. Tout le challenge vient du fait que nous ne désirons pas evidemment perdre tout contrôle sur cette mise en circulation. Asimov a avant tout le monde investigué les facteurs qui sont nécessaires pour faire en sorte que les intelligences articficielles que nous créerons reste en finalité à notre service et ne nous transforment pas en animaux domestiques.

Exposées pour la première fois dans sa nouvelle Cercle vicieux (Runaround, 1942 !) mais annoncées dans quelques histoires plus anciennes, les lois sont :

1. Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger.
   
   
2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
   
   
3. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

A partir de là, Asimov a imaginé des dizaines de récits mettant en scène des robots confrontés à de multiples cas de figures socio-cybernétiques. A travers ces récits on voit comment le robot d'abord esclave soumis à l'homme parvint peut à peu à devenir son égal avant de devenir son maître.

Bien sûr, les avancées technologiques actuelles permettent d'espérer que nous ne perdons pas ce contrôle et la recherche sur la conscience et ses liens intimes avec le subconscient doit continuer en paralèle pour tenter de mieux comprendre comment construire les futurs cerveaux des androides. L'homme reste équipé jusqu'à la prochaine mutation, d'un cerveau particulièrement archaïque articulé sur un Ego de manière générale trop invasif qui jusqu'ici ne respecte pas lui même les fameuses 3 lois imaginées par Asimov pour se protéger des robots. Ne faudrait-il pas dans un premier temps faire en sorte que les humains arrivent à appliquer eux-mêmes, ces lois fondamentales entre eux avant de vouloir se protéger d'intelligence artificielle ?  Et dans le constat pratiquement définitif de ne point y arriver, laisser faire le ménage par des "êtres" doués d'une intelligence supérieure dégagée de primitivité territoriale, de pouvoir aveugle ou de sexualité animale ? Peut-être que l'ère des androides est un trait d'union nécessaire entre l'hommo sapiens et le prochain humanoide ? Espérons en tous cas que les humains aurons le temps de s'auto-contrôler efficacement avant une destruction de masse. A vérifier.