La complexité technologique massive

  La complexité technologique 

La complexité technologique massive

Que signifie au juste comprendre la complexité d’un système ? Prenons comme exemple la voiture autonome. Il est possible de comprendre le comportement de la voiture autonome à travers l’ensemble des systèmes qui la composent. Pour qu’une voiture puisse être autonome, elle embarque plusieurs technologies différentes qui doivent toutes interagir. Ces technologies déjà développées pour d’autres domaines — le radar, le lidar (mesure en temps réel de la distance des objets immobiles ou en mouvement), le GPS, les capteurs odométriques qui captent le mouvement du véhicule, et la vision artificielle —, doivent arriver à communiquer entre elles et former un tout cohérent et fonctionnel que seul un algorithme d’intelligence artificielle sera en mesure d’intégrer et d’interpréter.

Bien qu’il soit simple de comprendre le fonctionnement global de chacun des composants d’une voiture autonome, il sera d’autant plus difficile de comprendre le fonctionnement de chacun des composants. Je m’explique. Qui, parmi ceux qui lisent actuellement ces lignes, sont en mesure d’expliquer, dans le moindre détail, le fonctionnement d’un radar ? Qui peut décrire l’ensemble des composants qui entrent dans la conception d’un radar ? En fait, à peu près personne. Pourquoi ? Parce que la somme de connaissances exigées pour comprendre le fonctionnement d’un seul composant d’un radar fait appel à des connaissances largement au-delà des seules compétences et connaissances d’un individu.

Cependant, et c’est là toute la beauté d’un système, une fois que l’on connaît quel type d’intrants accepte un système, une fois que l’on sait dans quelle fourchette statistique se comportera un système, on peut dès lors prédire quels seront les extrants qui seront produits par le système. Partant de là, il est possible d’utiliser ces extrants pour les fournir en tant qu’intrants à l’un des autres systèmes qui composent l’ensemble de la voiture autonome. Autrement dit, une voiture autonome est un bricolage sophistiqué d’une grande complexité de systèmes eux-mêmes sophistiqués et hautement complexes.

Finalement, la complexité totale qui émerge de toutes ces complexités est ce qui peut être décrit comme une complexité technologique massive de laquelle peut émerger des anomalies tout à fait inattendues, et plus la complexité est massive, plus elle est sujette à des anomalies. De là, il est légitime de poser toute une série de questions :

  • Dans une voiture autonome, quel est le degré de fiabilité du logiciel de chacun des composants ?
  • Quel est le degré de fiabilité du système central d’intelligence artificielle qui collecte les données de tous les capteurs embarqués ?
  • À quel moment les capteurs embarqués seront-ils susceptibles d’être affectés par des conditions de circulation difficiles, par des changements brusques de l’environnement (brouillard, pluie abondante, neige, blizzard, froid intense), par des interférences délibérées ou non ?
  • Les cartes routières, hautement spécialisées par ailleurs, car sans ces cartes, toute navigation autonome devient impossible, seront-elles constamment remises à jour ? Sinon, qui sera à blâmer ?
  • Comment arriver à répartir le plus précisément possible le spectre des fréquences radio de chaque véhicule pour éviter que les autres véhicules environnants ne partagent la même fréquence ?
  • Comment garantir, sur la chaîne de montage, que le moindre composant sera correctement installé et adéquatement calibré ?
  • Quand le véhicule autonome n’est pas dans un environnement de conduite optimisée, quelles parades ont été prévues pour ce type d’environnement ?
  • En cas d’accident inévitable, quelles décisions doit prendre le système d’intelligence artificielle embarqué ?

Et il ne s’agit là que de quelques questions qui sont loin de faire le tour du problème. Au total, pour concevoir une voiture autonome, il faut tout d’abord décrire le fonctionnement de chacun de ses composants, prédire ses dérives possibles à des degrés variés, et répliquer autant de fois qu’il est nécessaire l’expérience pour chacun des composant afin de s’assurer que le système global qui interconnectera tous les composants sera assuré d’une stabilité dans la plus large gamme possible de cas de figure.

Concrètement, quand une anomalie survient, cela signifie que nous ne disposons pas du niveau de compréhension nécessaire pour comprendre comment celle-ci est survenue. Si l’anomalie survient alors que nous jouons à un jeu vidéo, cela a très peu de conséquences.

Toutefois, lorsqu’une anomalie survient et qu’elle affecte des systèmes extrêmement complexes qui permettent à notre société de fonctionner sans heurts — l’infrastructure de production et de distribution de l’énergie ; celle de l’épuration et de la distribution de l’eau potable ; celle qui sous-tend l’ensemble des transactions financières de la planète ; celle qui empêche la collision des avions de ligne alors qu’ils sont en vol —, la chose peut avoir de graves conséquences. Même plus, notre manque de compréhension face à cette complexité massive peut éventuellement devenir une question de vie ou de mort.

Notre incapacité croissante à comprendre la source des anomalies technologiques, alors que nous sommes constamment à développer des technologies toujours de plus en plus complexes et de plus en plus interconnectées, nous rendent de moins en moins habiles à en saisir la complexité et les comportements, aussi intelligents soyons-nous, parce que, aussi paradoxal que la chose puisse paraître, le code informatique de ces technologies ne correspond nullement à la façon dont nous pensons normalement, même si c’est nous qui les avons développés ; aucun être humain, lorsqu’il pense en temps réel, ne fait une équation du type « si X intervient dans une circonstance Y, alors il est possible que Z survienne ». En fait, les humains sont définitivement mal équipés pour traiter des milliers de variables en même temps, encore moins résoudre des équations mathématiques et d’en saisir non seulement toutes les interactions possibles, mais toutes les implications.

Dans les faits, notre écosystème technologique est devenu d’une telle complexité que nous sommes désormais incapables de le comprendre ou d’en avoir le total contrôle. Même si chaque expert ou spécialiste connaît très bien le fonctionnement d’une pièce de cet immense casse-tête, il n’en reste pas moins qu’il est de plus en plus difficile d’en appréhender le portrait global. Nous en sommes rendus au point où même les experts qui ont eux-mêmes conçu certains systèmes ne comprennent pas tout à fait comment certains systèmes en arrivent à produire tel ou tel résultat. Et la chose est encore plus vraie lorsqu’il s’agit d’algorithmes d’intelligence artificielle.

© Pierre Fraser (Ph. D.), sociologue, 2019

La complexité technologique

Répondre

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.