Les dysfonctionnements technologiques

  La complexité technologique 

Les dysfonctionnements technologiques

Un mois après l’explosion de la navette challenger en 1986, le physicien Richard Feynman avait reçu le mandat d’identifier qui avait bien pu être coupable de cet événement désastreux pour l’ensemble du programme spatial américain. Quelle ne fut pas la surprise des membres de la commission de se faire dire qu’il était pratiquement impossible de pointer du doigt un quelconque coupable.

En fait, Feynman, devant la Commission d’enquête, s’était affairé à démontrer comment le joint O-Ring — une petite pièce de caoutchouc servant à sceller les joints entre la navette et les propulseurs à carburant solide —, une fois plongé dans un verre d’eau froide, perdait particulièrement de sa résilience et de son efficacité. Le constat était simple : le type de caoutchouc utilisé était particulièrement sensible aux variations de température, le rendant ainsi incapable d’accomplir la tâche pour laquelle il avait été conçu.

Toujours dans le même ordre d’idée, en 2007, dans l’état de l’Oklahoma, une dame de 76 ans, au volant de sa Toyota Camry, est confrontée à un événement tout à fait particulier qui allait lui infliger des blessures importantes et provoquer la mort de sa passagère. Sans avertissement, la voiture s’emballe et accélère de façon incontrôlée. Malgré tous ses efforts — freiner, utiliser le frein manuel, éteindre le moteur —, rien n’y fait, et la voiture se dirige droit dans le mur d’une digue[1].

Ce cas n’est pas un cas unique pour Toyota, et c’est là que les choses commencent à devenir intéressantes du point de vue technologique. Les spécialistes de chez Toyota ont tout d’abord commencé par imputer le problème à la conductrice elle-même. Par la suite, ils ont commencé à émettre différentes hypothèses, dont un tapis de plancher ajouté par la propriétaire et qui aurait pu bloquer la pédale d’accélération, ou bien, que la pédale d’accélération aurait pu rester coincée. Mais après vérification, ce fut dans moins de la moitié des cas que ces problèmes furent répertoriés. À l’évidence, le problème était d’une tout autre nature.

Le jour ou Toyota fut sommée par la justice de laisser les experts examinés le code informatique embarquée à bord du véhicule, l’équipe de l’informaticien Michael Barr, composé de plus de six experts, ainsi qu’un autre informaticien indépendant, Philip Koopman, en sont arrivés à une conclusion qui ne devrait pas nous surprendre outre mesure. Selon ces derniers, la complexité et la conception bâclée du logiciel servant à réguler l’ensemble des fonctions du groupe motopropulseur avaient entraîné une accélération incontrôlée et incontrôlable.

Conclusion : aucune pièce mécanique ni aucune partie du logiciel embarqué n’étaient en fait responsable de la situation, car le problème se situait plutôt dans l’incroyable enchevêtrement des interactions entre tous les composants du système, à la fois électromécanique et informatique. En fait, le système était à ce point complexe, qu’il fut pratiquement impossible d’identifier de façon précise ce qui avait pu être à l’origine exacte du problème. Au regard des preuves apportées et de l’analyse effectuée, le rapport avait conclu que Toyota aurait dû être beaucoup plus vigilante dans la conception même de ses logiciels et aurait dû éviter de concevoir un système d’une aussi grande complexité.

Quand on y regarde de près, et quand on compare l’explosion de la navette Challenger et celui du problème d’accélération des Toyota Camry, il faut vraisemblablement admettre que la complexité des systèmes technologiques en jeu est susceptible de fragiliser ces mêmes systèmes. D’autre part, l’autre constat qu’il faut poser, c’est qu’il est de plus en plus difficile de pointer un seul composant ou élément dans ces systèmes d’une grande complexité qui seraient susceptibles de provoquer des défaillances. En fait, et il faut s’y faire, les défaillances sont, par défaut, profondément imbriquées dans l’ensemble de toutes les technologies que nous concevons.

Par exemple, en 1996, une fusée Ariane 5, avec à son bord quatre satellites, explose 30 secondes à peine après son décollage. L’enquête déterminera par la suite qu’une ancienne routine informatique, qui n’avait pas été mise à jour pour les nouvelles conditions dans lesquelles elle serait utilisée, avait été responsable du problème. L’enquête démontrera également que de tous les constructeurs impliqués dans le développement de la fusée, aucun n’était à blâmer, que l’explosion n’était pas le fait d’une mauvaise décision, et que l’événement était tout bêtement lié à la grande complexité du système, ce qui nous amène à formuler une seconde hypothèse de travail :

Deuxième hypothèse à propos de la complexité

Lorsqu’une défaillance ou une anomalie informatique survient, celle-ci n’est pas le seul fait d’un code informatique en particulier ou d’un composant spécifique : elle émerge tout simplement de la complexité massive qui constitue intrinsèquement une quelconque technologie.

Même si nous pensons être en mesure, en décortiquant la moindre routine informatique ou le moindre composant, d’arriver à identifier ce qui cause le problème, la chose relève désormais du vœu pieux. Pourquoi ? Parce que tout code informatique, quel qu’il soit, est, par définition, porteur d’erreurs potentielles. Autrement dit, l’erreur est inhérente à tout système informatique.

Que nous le voulions ou non, nous sommes entrés dans une ère où il est humainement impossible de saisir la complexité de ce que nous avons nous-mêmes créé et encore moins de ce qui sortira des algorithmes d’intelligence artificielle. Nous nous retrouvons donc dans une situation à la Toyota, c’est-à-dire que les systèmes sont si complexes et si intimement liés et interconnectés qu’ils interagissent parfois d’une façon tout à fait imprévisible et non prévue par les concepteurs.

Il faut aussi se faire à l’idée que (i) des anomalies peuvent parfois émerger de la complexité des systèmes technologiques et (ii) qu’il est parfois impossible d’identifier la cause exacte qui fait que certaines anomalies surviennent parfois.

© Pierre Fraser (Ph. D.), sociologue, 2019
© Photo entête, Brooking Institution

La complexité technologique

[1] Fisk, M. C. (2013 [25 octobre]), Toyota Settles Oklahoma Acceleration Case After Verdict, Bloomberg, URL : http://bloom.bg/2fe4Gz9.

Répondre

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur la façon dont les données de vos commentaires sont traitées.