Intelligence artificielle et émergence de la conscience

  Intelligence artificielle 

Intelligence artificielle et émergence de la conscience

Si l’émergence est une propriété intrinsèque de la complexité massive, il faut vraisemblablement supposer que si une intelligence artificielle généraliste de niveau humain et non consciente d’elle-même survient, ce ne sera qu’une question de temps avant qu’une superintelligence artificielle non consciente d’elle-même ne survienne.

La notion d’émergence, nous l’avons vu, est une propriété inhérente à tout système complexe. Deux propriétés en particulier, émergent de la complexité massive : l’abstraction et les propriétés inédites.

L’abstraction survient par l’ajout de strates successives. Cet ajout de strates successives culmine à un moment donné dans ce qui englobe toutes les strates et finit par produire une ultime abstraction ; au risque de me répéter, la clé de contact d’une automobile en est un exemple éloquent, car elle abstrait tout ce qui préside au fonctionnement de celle-ci — il n’est pas nécessaire de connaître tout ce qui constitue une automobile pour la conduire.

Les propriétés inédites, quant à elles, émergent de tout système complexe composé de plusieurs strates, propriétés qui étaient tout à fait absentes de chacune des strates. Par exemple, un atome d’oxygène n’est qu’un atome d’oxygène et un atome d’hydrogène n’est qu’un atome d’hydrogène. Laissées à elles-mêmes elles ne sont rien d’autre que ce qu’elles sont. Cependant, un atome d’oxygène combiné à deux atomes d’hydrogène conduit à une propriété émergente : de l’eau.

Sur le plan de l’évolution, lorsque certains grands primates, il y a des millions d’années, ont acquis la position verticale, de nouvelles propriétés sont apparues. En libérant les pattes avant de l’obligation d’être au sol, celles-ci sont devenues, au fil du temps, des mains qui ont permis de développer différentes technologies pour survivre dans la savane. En libérant la bouche de la proximité du sol, le larynx et le pharynx se sont déplacés vers l’arrière, ce qui a permis le développement de cordes vocales plus sophistiquées qui allaient éventuellement compléter la fonction langagière, alors que le cerveau devenait lui-même de plus en plus massivement connecté, d’où l’émergence de la conscience et du langage.

Sur le plan technologique, hors de toute technologie issue de l’intelligence artificielle, nous avons vu, dans l’essai Complexité technologique, que la complexité est une propriété émergente de tout système technologique qui croît par accrétion, tout comme nous avons vu que les anomalies en sont également une propriété émergente. Et c’est là où j’ose, en quelque sorte, faire un bond quantique et prétendre que, plus les réseaux de neurones artificiels croîtront en complexité massive, plus il sera possible de voir émerger des propriétés inédites. De quelle nature seront ces propriétés ? Répondre à cette question serait de la pure spéculation, car nous n’avons encore sous la main aucun système de neurones artificiels massivement connecté — nous n’en sommes qu’aux balbutiements de ce qu’il est possible de faire en la matière. Cependant, si certaines propriétés comme la complexité et les anomalies émergent de toute technologie non intelligente, il faut alors supposer que certaines propriétés émergeront forcément de toute technologie intelligente massivement connectée.

  Intelligence artificielle  

Autrement, et au risque de décevoir certains lecteurs, loin de moi l’idée que ces propriétés émergentes soient de l’ordre de la conscience. En fait, le sociologue doit s’en tenir aux faits, comme tout autre scientifique par ailleurs. De plus, étant donné que le but de cet essai n’est pas de faire un recensement des technologies issues de l’intelligence artificielle, mais bien de voir comment le concept même d’intelligence artificielle agit sur la société, le présent chapitre tentera de démontrer comment ce concept est à même d’y parvenir.

D’entrée de jeu, je pense que l’intelligence artificielle, qu’elle soit restreinte, généraliste ou de niveau humain, ne constitue, au final, qu’un ensemble de stratégies de programmation biomimétiques bricolées à partir de différents modèles théoriques, de techniques statistiques et mathématiques utilisant un substrat de silicium comme support de calcul configuré de façon à effectuer un traitement de type parallèle. Cette hypothèse que je formule est-elle vérifiable ?

 

Le premier constat qui doit être posé, c’est que, dans l’état actuel des connaissances scientifiques, tout ce qui a pu être proposé comme modèle théorique du cerveau, depuis les soixante dernières années, dans le domaine de l’intelligence artificielle, ne tient que sur une idée somme toute simpliste : le cerveau ne serait qu’une pure unité de traitement de l’information.

Le deuxième constat qui doit être posé, c’est que le biomimétisme — le cerveau ne serait qu’une pure unité de traitement de l’information — a tout simplement conduit à la mise au point de réseaux de neurones artificiels grandement simplifiés par rapport à un cerveau biologique.

Le troisième constat qui doit être posé, c’est que les réseaux de neurones artificiels exigent d’être alimentés par des masses phénoménales de données pour arriver à identifier des patterns récurrents, et que l’identification de ces patterns n’est réalisable que par de complexes calculs statistiques, d’où le premier éloignement de toute forme de biomimétisme.

Le quatrième constat qui doit être posé, c’est qu’une certaine forme de cognition artificielle émergerait sous forme d’un modèle mathématique élaboré à partir des patterns récurrents obtenus par des calculs statistiques en amont, d’où le second éloignement de toute forme de biomimétisme.

Le cinquième constat qui doit être posé, c’est que la seule forme de biomimétisme retenue pour simuler la cognition, qu’il s’agisse d’intelligence artificielle restreinte, généraliste ou de niveau humain, ne réside que dans l’architecture physique des microprocesseurs dite parallèle.

Le sixième constat qui doit être posé, c’est que toute forme de cognition artificielle ne peut en aucune façon être assimilée à une cognition de niveau humain, peu importe ce qu’elle arrive à produire comme résultats, bien qu’elle en affiche les comportements.

Si on admet que ces six constats peuvent éventuellement conduire à confirmer la quatrième hypothèse de travail, une autre hypothèse émerge forcément : l’intelligence artificielle, qu’elle soit restreinte, généraliste ou de niveau humain, ne peut en aucune façon être assimilée à une intelligence de niveau humain, puisqu’elle n’est pas la résultante d’un processus de montée en abstraction comme pour l’intelligence humaine. Il est donc faux de prétendre qu’il soit possible de faire émerger de la conscience à partir d’un assemblage de microprocesseurs et de réseaux de neurones artificiels.

  Intelligence artificielle  

L’idée centrale derrière cette hypothèse tient dans une autre explication tout aussi simpliste voulant que le cerveau ne soit qu’une pure unité de traitement de l’information : le cerveau est massivement et parallèlement connecté. Selon l’idée reçue par plusieurs chercheurs en intelligence artificielle, et sans que cette affirmation n’ait pourtant encore fait l’objet d’aucun consensus avéré, le fait de disposer d’un circuit neuronal artificiel massivement et parallèlement connecté suffirait à produire du comportement cognitif similaire à celui d’un cerveau biologique.

Premièrement, le paradigme connexionniste suppose que la cognition puisse émerger d’un réseau de neurones artificiels massivement et parallèlement connecté. Cette cognition, tout comme pour un cerveau biologique, à mon avis, se limiterait à une simple activité subsymbolique.

Deuxièmement, tout système artificiel qui prétend atteindre à un niveau de cognition humain (intelligence artificielle de niveau humain) devra être en mesure de faire le bond, par lui-même, de la strate subsymbolique à la strate symbolique, car si le connexionnisme prétend que la cognition émerge sans aucune aide extérieure d’une activité massivement et parallèlement connectée, il faut s’attendre en contrepartie à ce que la capacité à symboliser émerge de la même façon.

Troisièmement, tout système artificiel qui prétend atteindre à la conscience de sa propre existence (superintelligence artificielle), devra, et ce, sans aucune aide extérieure, à partir de sa strate subsymbolique et de sa strate symbolique, atteindre par lui-même à la conscience de sa propre existence, car si tous les courants de recherche en sciences cognitives prétendent que tout émerge de tout pourvu que la condition de base du massivement et parallèlement connecté soit respectée, il faut s’attendre à ce que la capacité à être conscient de sa propre existence émerge de la même façon.

Certes, il est possible d’affirmer que les logiciels actuellement utilisés en intelligence artificielle — en utilisant des techniques de calcul relevant de la statistique pour identifier des patterns récurrents qui seront utilisés pour élaborer des modèles mathématiques qui permettront de créer des hiérarchies de catégories — possèdent déjà cette capacité à faire émerger un niveau subsymbolique. Vu sous cet angle, il ne resterait donc plus qu’à ajouter une couche supplémentaire de logiciels qui utiliserait le niveau subsymbolique afin de produire du traitement symbolique, et par la suite, d’ajouter une autre couche supplémentaire de logiciels à la strate symbolique pour atteindre à la strate de la conscience. Ce qui voudrait finalement dire qu’il sera un jour possible d’arriver à concevoir une superintelligence artificielle tout à fait consciente de sa propre existence.

A contrario, l’évolution, au fil du temps, n’a pas eu besoin qu’on lui adjoigne par une quelconque aide extérieure (à moins d’être un partisan du créationnisme ou du design intelligent) une nouvelle couche supplémentaire de logiciels pour passer de la strate moléculaire à la strate biologique, à la strate neuronale, à la strate subsymbolique, à la strate symbolique et à la strate de la conscience. Tout a été fait sous l’effet de la pression évolutionniste sans aucune aide extérieure. Et c’est là un point de discussion important, « sans aucune aide extérieure », mais sous la pression adaptative de l’évolution.

Pour les chercheurs œuvrant dans le domaine des sciences cognitives et de l’intelligence artificielle, la parade à mon opposition « sans aucune aide extérieure » sera de dire qu’une intelligence artificielle est un autre type d’intelligence fondé sur d’autres principes, et que ce qui a présidé à l’émergence de l’intelligence humaine, à sa montée en abstraction en quelque sorte, n’a pas besoin d’être répété.

Il suffirait dès lors, à en croire les chercheurs en intelligence artificielle, d’arriver à élaborer des logiciels qui permettront une montée en abstraction telle, qu’elle conduira une entité artificielle à être totalement consciente d’elle-même. Et si c’est le cas, nous devrions collectivement commencer à nous inquiéter. Cependant, à mon avis, ce n’est pas demain la veille, mais, en attendant, la recherche, elle, avance à grands pas et il faut s’en préoccuper immédiatement.

Pourtant, et malgré tout ce que je pourrais dire à propos d’une incapacité à concevoir une superintelligence artificielle, il n’en reste pas moins que le discours de l’intelligence artificielle a pris d’assaut notre imaginaire collectif. Comment y est-il parvenu ? En fait, répondre à cette question est pour le moment plus important que de savoir si oui ou non une superintelligence artificielle totalement consciente d’elle-même adviendra un jour, pour la simple raison que tout le discours à propos de l’intelligence artificielle est en voie de devenir une construction sociale mobilisant à la fois individus et institutions qui redéfinira de nouveaux comportements, de nouvelles valeurs sociales et de nouvelles normes sociales. Et c’est là que le sociologue, le philosophe et l’historien des idées interviennent.

À mon avis, il ne pourra jamais exister une intelligence artificielle qui serait le produit d’une pure montée en abstraction et qui conduirait à la pleine conscience, sauf à certaines conditions. Cependant, ceci n’implique pas forcément qu’il ne peut pas se construire un mythe au sujet de la pleine conscience artificielle.

Toutefois, mon affirmation précédente est entachée d’une grave erreur de rhétorique, car l’histoire nous montre que, en science, il ne faut jamais dire que telle ou telle percée scientifique ne se produira jamais.  Donc, pour reformuler correctement ma proposition précédente, il faudrait plutôt l’envisager comme suit :

À mon avis, dans l’état actuel des connaissances, on ne peut savoir s’il pourra un jour ou non exister une intelligence artificielle qui serait le produit d’une pure montée en abstraction et qui conduirait à la pleine conscience. Cependant, ceci n’implique pas forcément qu’il ne peut pas se construire, ici et maintrnant, un mythe au sujet de la pleine conscience artificielle.

© Pierre Fraser (Ph. D.), sociologue, 2019

  Intelligence artificielle  

Répondre

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.