LE MYTHE DU GOLEM

Par Jean-Sébastien Coutu, M.Sc.

Dans 1 000 ans nous serons des machines... ou des dieux. - Bruce Sterling

Pour Jean-Michel Truong, fondateur de Cognitech (une société qui explore le potentiel cognitif des machines de demain) et aussi écrivain de science-fiction émérite, l’espèce humaine vit ses derniers moments. La convergence actuelle entre le néo-libéralisme sauvage et les progrès exponentiels en matière d’intelligence artificielle seraient en train d’accoucher d’une « société » monstrueuse. Une société dans laquelle l’homme handicapé par ses imperfections et son comportement insensé n’aurait décidément plus sa place.

Truong partage son pessimisme avec beaucoup d’autres auteurs qui imaginent déjà pour les prochaines décennies des scénarii apocalyptiques. Un monde où des androïdes en poly-alliage mimétique feraient la chasse à ce virus nommé « homme » dans des dédales de ferrailles et de tuyauterie en silicium. Des créatures dont nous aurions perdu tout contrôle et qui feraient de notre monde... le leur. Et pour les optimistes qui rêvent encore de télécharger le contenu de leur cerveau dans une machine et fuir ce monde fichu pour enfin vivre paresseusement (et éternellement) dans le cyberespace, la neurologie moderne brise leur rêve. Le chercheur Richard Restak a démontré que les neurotransmetteurs et les hormones de perceptions ne sont pas cantonnés dans le cerveau mais bien dispersés dans tout le corps. Sans lui, le cerveau est un organe incomplet et totalement inexploitable. Bref, faudra assumer notre existence dans ce monde réel et apprendre à le partager.

Devant les développements en intelligence artificielle, le citoyen moyen espère que les gens actuellement impliqués dans l’aventure savent ce qu’ils font. Que leur activité est encadrée par une solide réflexion éthique. Mais à une époque où l’entreprise privée, l’armée et les organisations criminelles sont les principaux vecteurs du progrès technologique, beaucoup d’observateurs ont sans doute raison de s’inquiéter. Truong voit dans ce phénomène la preuve que nous courons à notre perte. Si nous parvenions à créer une intelligence supérieure, comment s’assurer de sa parfaite coopération? Comment être certain qu’elle ne sera pas utilisée par des gens pour assurer leur domination sur leurs semblables? Sommes-nous à l’abri d’un dérapage fatal pour l’homme?

Neuromatrice

Dans son livre Les racines du mal, Maurice Dantec voit Internet comme un formidable appareil de perception pour les neuromatrices qui verront bientôt le jour. Intelligences artificielles aux capacités surréalistes, elles pourront se servir de manière autonome du réseau des réseaux autant comme d’un système de collecte de données qu’un moyen pour agir de manière tangible sur le monde réel. Pareille machine pourrait être utilisée dans le domaine de la domotique par exemple.

Dans son roman, Dantec imagine un chercheur qui parvient à reproduire certains traits de personnalité d’un célèbre tueur en série à l’intérieur d’une même neuromatrice. Il espère ainsi fabriquer un outil de première qualité qui servira à mieux comprendre les désordres psychologiques. Mais voilà que la machine développe une schizophrénie aiguë. Dans un délire mystique d’autodestruction, elle lance une passe légendaire visant à démolir le parc informatique mondial, un véritable « infokrach » qui dévaste des millions d’ordinateurs. L’auteur à la renommée montante se défend bien d’écrire de la science-fiction. Il qualifie plutôt son genre littéraire de « science et fiction ». En observant l’état de la science actuelle, il invente des histoires qui ont à la fois un pied dans le présent et l’autre dans un futur très proche.

Dans son nouveau roman, Babylon Babies, Dantec poursuit sur sa lancée avec une histoire où des hackers équipés de neuromatrices et d’agents intelligents s’affrontent (nous sommes en 2013) pour le compte de sectes post-millénaristes. La complicité de ces adjuvants artificiels dote alors le hacker d’une compétence hors norme où le « hack » (prouesse informatique) prend une direction souvent meurtrière.

À court terme, il ne s’agira que de « software ». Ou même de « vaporware » comme ils disent à Silicon Valley pour définir les logiciels en devenir. Mais une telle intelligence artificielle se verra sans doute un jour dotée d’un corps autonome, pareil à ces « réplicants » qu’avait imaginé Philip K. Dick et dont le film Blade Runner s’est inspiré. Probablement verrons-nous aussi apparaître des drones intelligents qui iront faire la guerre à notre place. Mais tout ceci est-il raisonnable? Savons-nous vraiment ce que nous sommes en train de faire?

Le mythe du Golem

1580. Le ghetto juif de Prague est persécuté. Régulièrement, des agressions sont perpétrées contre ses habitants qui restent une cible facile puisque les forces de l’ordre ne se soucient pas de leur sort. Les gens vont les voler impunément et beaucoup de jeunes filles sont harcelées. Devant tant de malheur, le vieux rabbin Loew décide de créer une énorme créature au corps d’argile qui défendra la communauté en plus d’être utilisée pour aider à la réalisation de certains travaux. Il ouvre un vieux livre juif sacré et pendant toute une nuit, suivant les instructions du livre, il assemble un véritable monstre qu’il anime en psalmodiant une formule magique. Il nomme sa créature « Golem ».

Le Golem est très obéissant et il se consacre désormais à pourchasser les intrus qui osent encore venir embêter les habitants du ghetto. Rapidement, terrorisés par ce monstre d’une méchanceté sans nom, les Praguois fuient le secteur et les Juifs peuvent enfin vivre en paix. Beaucoup dans la communauté se lient d’affection avec ce protecteur et à leur contact, le Golem apprend à lire, à s’amuser et aussi à éprouver des sentiments.

Un jour, mécontent des charges de travail qu’on lui astreint sans arrêt, il part s’en plaindre au rabbin. Ce dernier refuse toute concession et décide de se débarrasser de sa création avant d’en perdre le contrôle. Acculé au pied du mur par des hommes armés, le Golem charge la populace, tuant nombre de gens, pour ensuite disparaître à jamais en pleine nature. Loew est horrifié par la scène et se jure de ne plus jamais recommencer.

Bien sûr, il s’agit là d’une légende. Mais elle n’est pas sans rappeler les interrogations actuelles sur les percées en matières d’intelligence artificielle. Arthur Clarke, auteur de 2001, Space Odyssey disait : « Toute technologie suffisamment développée se confond avec la magie ».