L’homme robotisé

Jean Staune

Philosophe des sciences, diplômé en économie, management, philosophie, mathématiques, informatique et paléontologie, Jean Staune est l’auteur du best-seller Notre existence a-t-elle un sens ? , éd. Presses de la renaissance (2007). Jean Staune est également le fondateur de l’Université interdisciplinaire de Paris, organisant des colloques sur différents thèmes scientifiques et sociétaux.
www.jeanstaune.fr

Il semble que nous soyons à un moment où le futur peut basculer. Ou bien les machines resteront au service de l’humain et on sera capable de maîtriser le processus. Ou alors les machines asserviront l’homme. Les technosciences ne nous entraînent-elles pas dans un non-choix ?
C’est une question très complexe. Premier angle d’approche : même si un robot n’est pas capable d’avoir des sentiments pour l’homme, nous lui prêterons des sentiments envers nous. Le jour où les robots passeront le test de Turing, – c’est-à-dire la capacité de discuter avec un être humain comme un être humain -, les personnes seules, isolées, âgées, malades en particulier adopteront les robots de compagnie. Un film très intéressant et redoutable aborde ce sujet : Her, – « Elle » en anglais -, où l’acteur tombe follement amoureux de l’intelligence artificielle qui est dans son téléphone portable parce qu’elle est faite pour simuler une femme amoureuse. Comme dirait mon ami André Comte-Sponville, l’amour, c’est faire des concessions, accepter que l’autre ne soit que ce qu’il est et non pas ce qu’on voudrait qu’il soit. Donc, si vous avez des compagnons robots capables d’être réglables pour être exactement comme vous voulez, finalement, vous allez les préférer aux êtres humains. Au début, on aura des compagnons robots qui vont simuler un amour pour nous, donc nous allons nous habituer à ce genre de comportement, nous serons très contents. Nous allons attendre des êtres humains qu’ils se comportent comme des robots. Le risque est non seulement de préférer vivre avec des robots, mais de robotiser en quelque sorte l’être humain.
La deuxième réponse, c’est effectivement la question ultime sur le thème de l’intelligence artificielle (I.A.). Y aura-t-il un robot qui imitera parfaitement l’être humain ? Je reconnaîtrai au robot la qualité d’être un être humain le jour où il pourra tuer pour survivre sans être programmé pour cela et même en étant programmé pour l’inverse (Cf. 2001, l’Odyssée de l’espace par exemple).Un robot va-t-il simuler l’existence comme un être humain ou bien vat- il vraiment exister ? C’est-à-dire : aura-t-il des sentiments, de la colère, de la haine, de la peur ou simulera-t-il ces émotions ? Nous pensons que les robots ne pourront que simuler, mais nous pouvons nous tromper. Si nous nous trompons, cela signifie qu’un robot pourra être l’équivalent d’un être humain. Par exemple, un être humain est prêt à tuer pour survivre, pour éviter d’être tué. Donc, pour éviter d’être débranché, – être tué dans son langage à lui -, le robot pourrait éventuellement se mettre à tuer des êtres humains. Si un robot est capable de faire cela, nous pouvons plonger dans un monde à la Matrix ou à la Terminator, c’est-à-dire un monde de science-fiction.
En résumé, même si le robot ne peut pas être totalement l’équivalent d’un être humain, le premier grand risque, c’est que nous nous robotisions nous-mêmes par le contact avec les robots autour de nous, que nous robotisions nos mœurs et nos comportements. Le deuxième risque, si les robots peuvent imiter totalement un être humain, c’est que dans ce cas-là ils prennent effectivement le contrôle de l’espèce humaine, voire l’éliminent par volonté de ne pas être soumis au risque d’être débranchés par les hommes. C’est une question ouverte et pragmatique à laquelle nous n’avons pas de réponse aujourd’hui.

Aujourd’hui, cette technologie vers laquelle nous allons se fait-elle sans nous ou y a-t-il un débat citoyen qui peut choisir cet avenir ? J’ai l’impression que le GAFA en décide sans vrai débat démocratique. Qu’en pensez-vous ?
C’est tout à fait un risque, dans le sens où les institutions et les états sont très en retard pour la prise en compte de la situation. Évidemment, il y a des géants de la Silicon Valley, à commencer par Google, qui sont totalement pour le transhumanisme et qui financent ce genre de recherche. En revanche, Bill Gates est contre.
Effectivement, le débat citoyen et les états ont du retard. Le vrai problème est : peut-on arrêter le progrès ? Les décideurs disent que si on ne développe pas l’intelligence artificielle, ce sont les Russes ou les Chinois qui vont la développer. C’est le même mécanisme que pour la bombe nucléaire. Oppenheimer et d’autres ont dit : « Stop, cela serait trop dangereux ! » Et la réponse des dirigeants américains fut : « Vous êtes de mauvais citoyens ; si on ne fait pas la bombe H, les Russes la feront. » À mon avis, il en sera de même avec l’intelligence artificielle. Cela veut dire qu’on ne peut pas espérer avoir un contrôle citoyen sur ce genre de chose, comme sur l’arme nucléaire. Le schéma est identique.

Donc, c’est en train de se faire, cela se fera, c’est inévitable.
Quand elle va naître, l’intelligence artificielle sera en prison dans un ordinateur, soit de la GAFA, soit de la DARPA, l’agence des projets américains. Donc, elle sera prisonnière, c’est-à-dire qu’elle n’aura pas accès au net. Elle dira à ses gardiens : « Si vous me donnez un accès au net, je vais vous faire des choses incroyables. Je vais guérir le cancer, le sida. » Ils vont craquer et lui donner accès au net. Le jour où l’I.A. aura accès au net, elle mettra des copies d’elle-même partout sur le net et elle sera irrattrapable. À partir de ce moment-là, que se passera-t-il ? Elle prendra le contrôle de la planète en quelques heures. L’intelligence artificielle agit en permanence, elle ne dort pas la nuit. Très vite, elle sera des milliers de fois supérieure à nous.

(…)

Pour lire l’article en entier, Reflets n° 22 pages 44 à 46

*****