La question-titre ne concerne évidemment pas les prédictions d’un ouvrage de SF en particulier, elle s’attache aux codes qui peuvent être considérés comme fondateurs du genre. Parmi ceux-ci une figure s’impose: celle du pouvoir. La SF se caractérise par une représentation très spécifique du pouvoir. Empruntant à la fois au politique et au religieux, il est absolu, omnipotent et indéterminé quant à sa dimension humaine.
Beaucoup de ces caractéristiques sont aujourd’hui associées au futur supposé de l’intelligence artificielle, à laquelle il pourrait ne manquer qu’une dimension religieuse pour valider le modèle. D’où la question: peut-on associer à l’intelligence artificielle des principes potentiellement religieux?
l’idée de “cause première”
Il faut à une religion un principe fondateur, le moment où tout bascule, une année zéro. L’intelligence artificielle nous propose quelque chose de ce genre
Le concept de « singularité technologique » décrit un instant qui inscrit une rupture d’échelle dans l’évolution de notre progrès technologique.
Il s’agirait du moment où l’intelligence artificielle dépasserait l’intelligence humaine, et ce, de façon évidemment irréversible, puisqu’elle serait la seule à pouvoir continuer à rapidement progresser. Le très médiatique Ray Kurzweil nous le dit
La révolution de l’IA est la transformation la plus profonde que la civilisation humaine expérimentera dans toute l’Histoire.
Cette notion de singularité a été introduite au début des années 1950 par le mathématicien John Von Neumann, puis développée durant les années 1960 par Alan Turing et Irving John Good. Elle a inspiré de nombreux scientifiques comme Carl Sagan et de nombreux auteurs de science-fiction.
l’idée de transcendance
Transcendance: «Caractère de ce qui se situe au-delà d’un domaine pris comme référence, de ce qui est au-dessus et d’une autre nature», ou selon Kant: «Ce qui est au-delà de toute expérience possible, qui dépasse toute possibilité de connaissance».
On se doit de l’admettre, jamais aucune religion n’a offert un principe de transcendance aussi abouti que l’intelligence artificielle. Celui-ci est de nature mathématique et porte un nom: l’exponentielle. Quand la courbe représentant une quantité d’objets matériels tend vers l’infini, la dimension matérielle perd progressivement son caractère et se dissout dans … l’idée.
l’idée de sauveur
L’idée de sauveur est consubstantielle aux religions, elle est indissociable de la “grande peur fondamentale”. Avec le “tendre vers l’infini”, la “peur exponentielle” nous ouvre aux mêmes vertiges métaphysiques:
C’est à une peur scientifiquement construite et valorisée que nous avons affaire, cas unique par l’ampleur et la variété de ses déclinaisons
L’exponentielle est partout, notamment dans l’accroissement des inégalités, mais tout spécialement dans les risques qu’encourt la planète (progression démographique, consommation de ressources, dégagement de gaz à effet de serre, production de déchets, raréfaction de l’eau…). Or, dans les ténèbres de notre impuissance face à cette montée de l’exponentielle des problèmes, une lumière éclaire l’horizon: l’intelligence artificielle nous offrirait une capacité “également exponentielle” de réponse grâce à la singularité
À compter de cette date ou de cet événement, notre croissance technologique changera brusquement d’échelle, de plusieurs ordres vers le haut, le progrès, les découvertes scientifiques seront le fruit de forces et d’énergies non humaines ou posthumaines, issues de l’intelligence artificielle.
Chaque année, il y a 35 000 publications en neurosciences. Un chercheur ne peut en lire qu’une centaine: nous n’irons nulle part sans un modèle qui puisse intégrer toutes ces connaissances fragmentées.
S’en remettre à l’intelligence artificielle serait ainsi pour l’humain l’unique possibilité de salut.
la clé du religieux: l’illusion du “Tout”
L’intelligence artificielle est utilisée dans un nombre croissant de domaines où chaque application nouvelle ouvre un champ d’extrapolations et de spéculations qui élargit en permanence le périmètre, à la fois réel et hypothétique, de ses aptitudes. L’ensemble des possibles… c’est-à-dire le “tout”… apparait ainsi comme progressivement pris en charge.
omnipotence & infaillibilité
Pour l’intelligence artificielle, la dimension divine d’omnipotence se construit selon trois grandes voies
- Une fois le “tout” admis, l’échec n’apparait plus que comme la mise en attente d’un succès futur et chaque réussite particulière devient un “exemple” voire une “preuve” de la réalité du “tout”. Toutes les idéologies s’auto-alimentent de cette façon depuis le méfait d’un étranger qui “prouve” le bien-fondé du racisme, jusqu’au miracle supposé qui “prouve” l’existence de Dieu. Or, des performances nouvelles de l’intelligence artificielle, les médias nous en offrent tous les jours.
- L’intelligence artificielle se pose comme fondamentalement infaillible puisqu’elle est seule à pouvoir manipuler ce qui est en train de devenir l’unique base de la légitimité scientifique: les données. La corrélation de données se substitue progressivement à l’élaboration théorique. Des raisonnements, théorèmes et théories en physique ou mathématiques ont depuis toujours été élaborés par des intelligences humaines, puis contestés et pris en défaut par d’autres théories, élaborées par d’autres intelligences humaines. Or, l’intelligence artificielle, dans la mesure où elle construit son pouvoir sur le recueil massif de données, ne peut plus être contredite… que par elle-même… ce qui signifie que tout renforce son image d’infaillibilité… même ses erreurs.
- La religion suppose l’application de l’omnipotence à l’humain. Big Brother est la représentation de ce pouvoir qui saurait “tout” sur chacun de nous. Il fut un temps où ce privilège n’appartenait qu’à Dieu.
Il en ressort que ses capacités effectives ne constituent qu’une facette du pouvoir futur de l’intelligence artificielle. La foi en elle une fois bien établie, son influence sur les idées pourrait être assez peu sensible à ses insuffisances ou à ses échecs techniques.
le work-in-progress de la dimension religieuse
On citera au registe du renforcement des tendances énoncées ci-dessus les énormes moyens affectés au développement de l’IA, à l’image du programme européen
Le Human Brain Project est un projet scientifique d’envergure qui vise d’ici à environ 2024 à simuler le fonctionnement du cerveau humain grâce à un superordinateur…/… Il a été choisi pour être l’un des deux FET Flagships (« Initiatives-phare des Technologies Futures et Émergentes ») de l’Union européenne, soutenu financièrement à hauteur d’un milliard d’euros sur dix ans
Celui-ci répond à des initiatives telles que l’Université de la Singularité qui compte parmi ses partenaires des entreprises comme Google, la NASA, Shell, Qualcomm, Nokia, ou Deloitte, alors que le Watson d’IBM alimente déjà beaucoup les actualités dans ce domaine.
Une telle mobilisation de moyens peut-elle être sans impact sur les médias et par là sur la vision du monde d’un nombre croissant de personnes?
le consensus autour de l’idée du Bien
Même dictatorial, un pouvoir a besoin d’un certain niveau de consensus, que celui-ci soit obtenu par la démagogie, la peur, l’illusion, la manipulation…Or l’intelligence artificielle se prête tout particulièrement à cela dans la mesure où une “intelligence absolue” est supposée omnipotente, neutre et incorruptible. On en oublierait qu’elle a été programmée. On voit mal comment pourrait en ressortir autre chose que le “Bien”… ni comment l’idée de “Bien” pourrait ne pas faire consensus. Mais qui peut imaginer que le Bien puisse être autre chose que ce qu’il valorise lui-même? Qu’est-ce que le Bien pour un économiste libéral… pour une bonne-soeur… pour un communiste… pour un écologiste? Platon pensait que la ville devait être gouvernée… par les philosophes, et Philip K Dick… par les futurologues. Une intelligence absolue au pouvoir est une auberge espagnole, un kit futurologique dans lequel chacun peut mettre ce qu’il veut. Et personne ne craint véritablement la dérive totalitaire, quand elle s’effectue sur la base de ce qu’il souhaite.
en guise de conclusion provisoire
La question de la transition vers cet état condamne-t-elle ce scénario? En son temps la toute-puissance de la Sainte Inquisition n’a pas supprimé les rois. Par ailleurs, il existe aujourd’hui un autre niveau de gouvernance, possiblement transnational et d’un accès plus facile pour cette révolution: celui de l’entreprise.
Laisser un commentaire