Ray Kurzweil a-t-il raison à propos d’une intelligence artificielle de niveau humain?

Le cerveau reconfiguré

Citation : Fraser, P. (2019), « Intelligence artificielle, le fantasme de la conscience », Panoramas, repères et fragments, vol. 1 n° 2, Paris : Éditions V/F, p. 112-116.


À quelques reprises, tout au cours de cet essai, j’ai parlé de bricolage, c’est-à-dire qu’il est possible, en combinant différentes techniques et algorithmes informatiques, d’arriver à une efficacité particulièrement surprenante en matière d’apprentissage automatisé. Or, si on suppose qu’il suffit de bricoler des trucs toujours de plus en plus complexes, on peut donc en déduire qu’il serait possible d’arriver à fabriquer une intelligence artificielle généraliste de niveau humain. Toujours dans le même ordre d’idées, si on arrive à fabriquer une intelligence artificielle généraliste de niveau humain, et que partant de là on bricole des trucs toujours de plus en plus complexes, il serait donc possible de parvenir à concevoir une superintelligence artificielle.

L’idée est la suivante : si une intelligence artificielle généraliste de niveau humain survient, ce ne sera qu’une question de temps avant qu’une superintelligence artificielle ne survienne. Cette affirmation est-elle, d’une façon ou d’une autre, plausible ? En fait, il suffit de considérer en quoi consisteraient les avantages de concevoir une intelligence artificielle de niveau humain à partir d’un substrat électronique plutôt qu’à partir d’un substrat biologique. À l’inverse d’un cerveau biologique, un cerveau électronique peut être répliqué indéfiniment, tout comme nous le faisons présentement avec nos fichiers informatiques et logiciels. De plus, à l’inverse d’un cerveau biologique, il est possible d’accélérer la cadence de traitement d’un cerveau électronique, et ce, de plusieurs degrés, ce qui est pour le moment impensable de faire avec un cerveau biologique. Plus encore, si on dispose de plusieurs cerveaux électroniques que l’on peut constituer en réseau, on obtiendra une quantité phénoménale de cerveaux électroniques interconnectés, alors qu’il est impossible de mettre en réseau et d’interconnecter plusieurs cerveaux biologiques. Les implications de cette simple réflexion sont incommensurables.

Considérons pour quelques instants le scénario suivant : une grande entreprise mondialement reconnue décide de mettre en concurrence une équipe d’ingénieurs chevronnés et une équipe d’ingénieurs débutants utilisant un système d’intelligence artificielle pour élaborer une toute nouvelle génération de panneaux solaires. On comprendra d’entrée de jeu que les compétences requises pour réaliser ce projet sont non seulement complexes, mais qu’elles requièrent des connaissances dans des domaines aussi divers que celui des matériaux, du design, de l’électricité, de l’électronique, etc. L’entreprise, qui a soumis le projet, estime qu’il faudra environ deux ans pour le mener à terme. Il est clair, dans ces conditions, que l’équipe d’ingénieurs débutants qui dispose d’un système d’intelligence artificielle est déjà désavantagée par rapport à l’équipe d’ingénieurs chevronnés. Mais, et c’est là tout l’intérêt de cet exercice de pensée, l’équipe d’ingénieurs débutants dispose d’un système d’intelligence artificielle. Ce qui veut potentiellement dire que le fait d’assembler une équipe pour développer un quelconque produit ou service est désormais grandement simplifié par rapport à une certaine époque pas si lointaine où l’intelligence artificielle n’était pas disponible.

Que devront donc faire les ingénieurs débutants pour arriver à rivaliser avec l’équipe d’ingénieurs chevronnés ? Tout d’abord, ils devront faire ce que font actuellement les ingénieurs en intelligence artificielle, c’est-à-dire alimenter de façon substantielle les algorithmes d’apprentissage automatisé afin qu’ils en apprennent le plus possible à propos de la fabrication de panneaux solaires. Autrement dit, ils partiront de zéro, alors que les ingénieurs chevronnés auront déjà plusieurs longueurs d’avance, puisqu’ils auront déjà œuvré dans ce secteur depuis plusieurs années. En somme, les ingénieurs débutants devront acquérir une expérience similaire à celle des ingénieurs chevronnés, ce qui pourrait prendre bien des années, alors qu’ils ne disposent que de deux ans pour mener à terme leur projet.

Envisageons maintenant les choses sous un autre angle. Supposons un instant que les algorithmes d’apprentissage automatisé soient en mesure de traiter des masses d’information jusqu’à 10 fois plus rapidement que ce qu’ils sont présentement en mesure de le faire. Supposons également, qu’à chaque nouvelle itération, c’est à dire chaque fois où une nouvelle connaissance est acquise, que celle-ci est automatiquement liée à d’autres connaissances acquises antérieurement : la capacité d’apprentissage d’un tel système sera d’autant décuplée qu’elle structurera de tout nouveaux types de réseaux de connaissances. Ce qui impliquerait donc que l’équipe d’ingénieurs débutants pourrait éventuellement être au même niveau que celle des ingénieurs chevronnés en l’espace d’à peine six mois. Partant de là, qu’est-ce que l’équipe d’ingénieurs débutants, disposant d’un système d’intelligence artificielle, sera en mesure d’accomplir par rapport à l’équipe d’ingénieurs chevronnés ?

Après deux ans, chaque équipe présente son projet. L’équipe d’ingénieurs chevronnés soumet un projet de panneaux solaires qui rencontrent toutes les spécifications exigées par l’entreprise. Non seulement rencontre-t-il toutes les spécifications, mais il en surpasse quelques-unes sous différents aspects. Lorsque l’équipe d’ingénieurs débutants présente son projet, tous les représentants de l’entreprise qui avait initié cette aventure sont confrontés à une technologie qui dépasse et de loin toutes les spécifications de base, pour finalement constater que la technologie développée permet non seulement de réduire de façon significative les coûts de production et d’assemblage, mais permet aussi de faire en sorte que le propriétaire de tels panneaux solaires pourrait revendre de l’énergie au réseau de distribution public dans les périodes de pointe.

Déclarée vainqueur, l’équipe d’ingénieurs débutants consent à révéler comment elle est parvenue à un tel résultat. Après les six premiers mois, le système d’intelligence artificielle avait accumulé une telle somme de connaissances dans tous les domaines liés à la fabrication de panneaux solaires, que l’équipe avait eu tout le temps nécessaire pour imaginer comment aller au-delà de ce que les technologies actuelles auraient pu permettre. C’est ainsi qu’ils ont eu l’idée de développer un biomatériau simulant le phénomène de la photosynthèse qui servirait non seulement à capter la lumière, mais aussi à produire de l’énergie sous forme de glucose, lequel glucose ferait office d’unité de stockage de l’énergie. On comprendra donc qu’une telle technologie éclipserait toutes celles déjà existantes, faisant ainsi la fortune de l’entreprise initiatrice du projet et la mettant à l’abri, pour quelques années du moins, de tous problèmes financiers par le dépôt d’un brevet.

La leçon à retenir derrière cet exercice de pensée tient dans le fait que, s’il est possible d’arriver à concevoir un système d’intelligence artificielle aussi performant, qui développera par la suite, sans l’aide d’aucune intervention humaine, de nouvelles technologies qui lui permettront de se développer par lui-même encore plus en avant, il y a fort à parier qu’une superintelligence artificielle se dessinera sur l’horizon des possibles à plus ou moins brève échéance. Quand on y regarde de près, il ne s’agit pas ici de créer une nouvelle forme d’intelligence, ni même de faire appel à une percée majeure dans le domaine scientifique et technologique, mais de laisser aller des systèmes d’apprentissage automatisé déjà existants qui, par simple incrémentation récursive, arrivent à élaborer des réseaux complexes de connaissances qui n’ont aucune commune mesure avec les réseaux de connaissances élaborés par les êtres humains. Et si, en plus, on constitue des réseaux entiers de systèmes comme ceux-ci, on ne parle même plus d’intelligence artificielle, mais peut-être bien d’autre chose. Toutefois, s’agira-t-il pour autant d’une superintelligence artificielle ? À notre avis, non, car il suffirait de laisser le temps à une équipe d’ingénieurs chevronnés pour que celle-ci parvienne aux mêmes résultats que l’équipe d’ingénieurs débutants disposant d’un système d’intelligence artificielle.

Umberto Eco disait que la technologie est tenue pour magie lorsqu’elle efface les liens de cause à effet. Pour sa part, le scientifique et écrivain de science-fiction Arthur C. Clarke (1917-2008) soulignait que « Toute technologie suffisamment avancée est indiscernable de la magie. » Le physicien américain et auteur de science-fiction, Gregory Benford, quant à lui, considérait que « n’importe quelle technologie discernable de la magie est insuffisamment avancée. » Et si, finalement, la question d’une superintelligence artificielle n’avait rien strictement rien à voir avec une montée en abstraction menant à la conscience, mais qu’elle avait tout à voir avec un astucieux bricolage de techniques, de technologies, de réseautique, d’infonuagique et d’algorithmes d’apprentissage automatisé dont les prouesses effacent et occultent les liens de cause à effet, alors oui, ce type d’intelligence artificielle pourrait être tenue pour une superintelligence artificielle non consciente d’elle-même, mais surclassant tout de même l’être humain de plusieurs degrés dans une multitude de domaines.

En ce sens, et seulement en ce sens, et seulement aux conditions que je viens tout juste d’énumérer, j’adhère à la thèse qu’une intelligence artificielle de niveau humain soit du domaine du possible, et que, par conséquent, une superintelligence artificielle non consciente d’elle-même soit également du domaine du possible sur un horizon plus ou moins rapproché. Et si cette superintelligence artificielle donne l’impression d’être consciente d’elle-même, c’est que sa technologie sera suffisamment avancée pour le faire croire. Et c’est aussi en ce sens que le mythe de l’intelligence artificielle fonctionne.

À ce titre, certains chercheurs ont commencé à théoriser sur la réplication de l’esprit, non pas sur des ordinateurs numériques, mais sur des machines à être encore inventées. Comme l’a suggéré Ray Kurzweil dans The Singularity is Near : « Les ordinateurs n’ont pas besoin d’utiliser seulement des 0 et des 1 […] La nature même de l’informatique ne se limite pas à la manipulation de symboles logiques. Il se passe quelque chose dans le cerveau humain, et rien n’empêche que ces processus biologiques soient décortiqués et reproduits dans des entités non biologiques. »

En principe, Kurzweil a raison : nous n’avons pas encore de preuves voulant que sa vision soit irréaliste ou même non envisageable. Cependant, il faut reconnaître que le projet qu’il décrit est entièrement différent de la tâche originale que s’est fixée l’IA forte pour reproduire l’esprit dans un ordinateur. En fait, quand la tâche passe du traitement de l’esprit et de l’informatique à celui du cerveau et de la matière, et quand les instruments utilisés pour réaliser l’IA forte sont totalement différents de ceux de l’ordinateur, tout le travail entrepris jusqu’à maintenant pour répliquer le cerveau dans un ordinateur n’aura eu aucun rapport avec la tâche principale de l’IA forte, autrement que de réfuter ses propres méthodes. Donc, le fait que l’esprit soit une machine à traiter de l’information, tout autant que n’importe quoi d’autre dans l’univers puisse être une machine à traiter de l’information, ne nous dit rien d’intéressant au sujet de l’esprit. Si le projet d’IA forte doit être redéfini comme étant la tâche de dupliquer l’esprit à un niveau très bas, cela peut en effet s’avérer possible, mais le résultat sera loin de l’objectif initial de l’IA forte.

De là, si nous parvenons un jour à créer une intelligence artificielle sans vraiment comprendre quoi que ce soit à propos de notre propre intelligence, c’est-à-dire sans la séparer en couches tout en la décomposant en modules et en sous-systèmes, alors nous n’aurons aucune idée comment la répliquer. Nous ne pourrons ni la façonner, ni l’améliorer, ni l’appliquer à quelque chose d’utile.

Autrement dit, sans avoir compris et reproduit les propriétés mentales spécifiques en fonction de leurs propres termes et spécifications, nous ne pourrons pas les abstraire, ou comme le souhaitent les transhumanistes, numériser les capacités et les expériences, et donc télécharger et répliquer nos consciences dans un ordinateur. Alors, si le futur de l’intelligence artificielle est fondé sur la notion voulant que l’esprit ne soit définitivement pas un système informatique, cela doit donc être reconnu comme tel et aussi comme un rejet radical du projet initial de l’IA forte.

Et c’est peut-être cette voie de recherche qu’il faut explorer, car celle-ci pourrait bien être en mesure de faire advenir une véritable intelligence artificielle de niveau humain.

© Pierre Fraser (Ph.D.), sociologue, 2020


Accéder au dossier de recherche

Trois étapes doivent être réalisées pour émuler le fonctionnement d’un cerveau : (i) cartographier en haute résolution un cerveau jusqu’à un niveau submicronique ; (ii) simuler en temps réel, dans un ordinateur, l’activité électrochimique de tous les neurones et de l’ensemble de toutes les connexions du cerveau qui les relient entre eux ; (iii) interfacer la simulation avec un environnement externe dans un substrat non biologique. De là, Ray Kurzweil pense qu’il sera possible, vers 2050, de télécharger un cerveau dans un ordinateur.


Votre commentaire

Choisissez une méthode de connexion pour poster votre commentaire:

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l’aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.