L’obéissance aux machines fait de nous des machines obéissantes

Mark Hunyadi

p. 18-22

References

Bibliographical reference

Mark Hunyadi, « L’obéissance aux machines fait de nous des machines obéissantes », Revue Quart Monde, 259 | 2021/3, 18-22.

Electronic reference

Mark Hunyadi, « L’obéissance aux machines fait de nous des machines obéissantes », Revue Quart Monde [Online], 259 | 2021/3, Online since 01 March 2022, connection on 25 June 2022. URL : https://www.revue-quartmonde.org/10394

D’intermédiaire entre l’homme et la nature, la technique devient progressivement médiation obligée avec le monde. Une nouvelle rationalité s’est imposée : l’obéissance aux machines, qui impacte notre liberté d’action individuelle, collective, institutionnelle. Rendre à l’homme de demain le pouvoir de s’arracher aux forces aliénantes suppose la mise en place d’une institution qui reste à imaginer.

L’homme est né comme animal technique, et les outils qu’il se fabriquait lui ont toujours servi d’intermédiaires avec le monde qui l’entourait. Par la technique, il prolongeait sa propre puissance, et se reliait à la nature. Mais depuis le début du 21e siècle, avec le développement invasif du numérique, on assiste à un phénomène absolument inédit dans l’histoire de l’humanité : la technique n’est plus seulement un intermédiaire entre l’homme et la nature pour accomplir toutes sortes d’actions, elle devient la médiation obligée avec le monde. C’est très différent. Cela veut dire que nous devons de plus en plus passer par des dispositifs numériques pour accomplir les actions les plus simples de notre vie quotidienne. Que ce soit dans le rapport à l’administration (état civil, impôt), à une banque, que ce soit pour consommer, pour nous déplacer (GPS) ou pour postuler à un emploi, pour avoir simplement accès à des biens et services, nous dépendons de la technique comme jamais auparavant : dans tous les domaines de l’existence, nous devons toujours davantage d’abord obéir à des machines et à leur modus operandi. Nous devons nous y conformer : c’est ce qui est attendu de tout un chacun, pour qu’il puisse faire partie de la société qui fonctionne.

La « case technique » devenue incontournable

Pour les plus vulnérables, leur rapport à la société est fragilisé d’autant. Leurs difficultés de participation à la vie sociale sont en quelque sorte redoublées par cette couche de complexité supplémentaire, laquelle impose unilatéralement des normes et des manières de faire qui peuvent paraître incompréhensibles. Le sentiment d’impuissance est accru, et avec lui, celui, délétère pour la réalisation de soi, de ne pas pouvoir répondre aux attentes de comportement de l’environnement social. Comment l’estime de soi, déjà affectée, ne se trouverait-elle pas encore dégradée par ces obstacles numériques supplémentaires ? Comment cela n’atteindrait-il pas les sources les plus élémentaires de la construction de soi ?

Mais ce problème de justice sociale concernant les plus vulnérables n’est que le révélateur, ou le miroir grossissant d’un problème hélas bien plus vaste, aux conséquences anthropologiques et sociétales de longue portée. Il est peut-être moins immédiatement visible, mais n’en est que plus préoccupant. Car le fait que les plus vulnérables trouvent sur leur chemin un obstacle supplémentaire à l’accès au monde social ne change rien au fait fondamental : nous devons désormais tous passer par la technique pour avoir accès au monde. Puisque le numérique devient la relation obligée avec le monde, c’est désormais au numérique que nous avons à faire, pas au monde : on doit passer par la case « technique ». Exigence considérable ! Car cela veut dire que dans tous les domaines de l’expérience, la technique se substitue progressivement à toutes les relations naturelles que les humains entretiennent avec le monde. Nous ne regardons plus notre environnement, nous suivons le GPS ; nous ne parlons plus en face à face, nous nous exprimons sur les réseaux, ou par l’intermédiaire de visioconférences ; nous ne pouvons plus engueuler l’administration, nous devons nous rendre sur une interface.

La pandémie que nous connaissons a donné un brutal coup d’accélérateur à cette évolution. Mais prêtons attention au fait que si ce coup d’accélérateur a pu avoir lieu, si on a pu, si vite, travailler à distance, enseigner à distance, consommer à distance, c’est que tout était déjà en place ; la substitution avait déjà eu lieu en silence, elle n’avait qu’une occasion à trouver pour s’accomplir. Le virus la lui a offerte.

Des processus formatés et imposés

Cette substitution de la technique aux relations naturelles est un phénomène absolument majeur de notre temps, dont on ne peut sous-estimer les implications sur l’esprit humain. D’une manière générale, elle signifie que ce qui est attendu de nous est de plus en plus déterminé par des machines, et configuré par elles. Autrement dit, les attentes de comportement auxquelles chacun doit se conformer pour vivre en société sont unilatéralement imposées par des dispositifs qui eux-mêmes les génèrent automatiquement. Pour retirer de l’argent, s’identifier, s’adresser à l’administration ou s’inscrire à un cours de formation, nous devons maîtriser l’outil numérique. Nous devons suivre le processus qui nous est imposé par l’écran. Ces processus sont formatés de telle sorte qu’ils ne laissent pas d’alternative possible : il faut répondre aux questions, entrer dans les cases, suivre la procédure, sous peine d’échec.

Ceci veut dire que pour faire partie de la société qui fonctionne, pour être « rationnels », les individus doivent désormais épouser la rationalité du système, celle que lui imposent les machines. Qui veut une fin doit se conformer aux moyens : pour réussir une action dans le système, il faut d’abord se plier aux cadres imposés par le système. On ne peut plus obtenir un résultat désiré que si l’on se soumet ou que l’on s’adapte à ce que le système, via ses machines et ceux qui les ont conçues, exige de ses utilisateurs. Sera désormais jugé rationnel le comportement capable de s’ajuster aux prescriptions du système technique face auxquelles toute liberté d’action, tout écart apparaîtra comme un mouvement irrationnel. Pas de salut en dehors de l’obéissance.

Et nous voyons tous combien ces mécanismes de dépendance s’installent dans toutes les activités de l’existence. Lire un journal, passer à une caisse de magasin, acheter un ticket de métro, rien de tout cela ne peut se faire sans cette obéissance préalable à la technique. Le système objectif s’installe ainsi progressivement mais inexorablement dans le lit de la vie subjective. C’est là une forme de concubinage que nous vivons désormais à longueur de journée avec le numérique, qui nous montre en toute clarté que l’assentiment à la technique n’est pas seulement un assentiment ponctuel à tel ou tel outil qui se révèle si pratique, mais à tout le kit de rationalité qui va avec. Et si l’on extrapole ces observations quotidiennes à l’ensemble de l’humanité et aux générations futures, on voit bien qu’en construisant ces outils numériques, on ne fait pas que construire des outils numériques, mais l’humanité qui va avec.

Telle est la première conséquence anthropologique de la substitution de la technique aux relations naturelles.

Une liberté de supermarché

Mais il en est une deuxième, et elle concerne la liberté. Dans un monde où la technique envahit tous les domaines de l’existence, cette nouvelle dépendance à la technique implique, par la nature même des outils dont nous disposons, que chacune de nos actions prend toujours davantage la forme d’une réponse à une offre administrée par le numérique. Les actions sont pré-formatées par ce que le système numérique est capable d’offrir. La liberté n’est plus jaillissement spontané de la subjectivité, mais réponse à ce qui est offert, comme dans un supermarché. On désire quelque chose ? Le système nous l’offre (à ses conditions). Et son offre est pléthorique, nous le savons tous. Dans le monde numérique, notre liberté est une liberté de supermarché, même si le supermarché dans lequel elle évolue semble sans limites. Ce que le système valorise ainsi, ce n’est plus la spontanéité créatrice, la réflexion innovante, la rêverie ou la flânerie, c’est la satisfaction immédiate du désir : à peine est-il émis que le système est prêt à l’exécuter. On sait au demeurant qu’une bataille acharnée est livrée dans les coulisses du numérique pour que le désir n’ait même plus à s’exprimer : tout est mis en place pour l’anticiper. Il s’agit de le satisfaire avant même qu’il ne s’exprime. C’est un enjeu majeur de ce qu’on appelle l’intelligence artificielle.

Un paternalisme technologique infantilisant

Tout cela donne à la technique et à ceux qui la configurent un pouvoir exorbitant, totalement asymétrique, dont l’horizon ultime est de mettre la société en pilotage automatique. « Pilotage automatique », cela ne veut pas dire qu’il y a quelque part des individus malveillants qui pilotent en secret le système à notre insu. C’est un effet du système, qui n’a pas de pilote identifiable. « Pilotage automatique », cela veut dire très exactement que pour chacune de nos actions, les attentes de comportement correspondantes ne sont plus celles que nous avons nous-mêmes acquises dans notre expérience du monde, mais celles qui sont dictées par les machines anonymes, dont le but est de servir le fonctionnement du système. L’obéissance aux machines fait de nous des machines obéissantes. Nous devenons littéralement des machines désirantes : dans cette substitution tendancielle de la technique aux relations naturelles, le désir de chacun est sécurisé, et le système est en mesure de l’exécuter automatiquement, à la pleine satisfaction des individus. Mais en réalité, loin d’accroître notre liberté, le numérique installe une forme immense de paternalisme technologique qui nous infantilise tous.

Cela nous rive tous de manière inédite au système. Si la satisfaction de nos désirs devient, grâce au numérique, automatique ou quasi automatique, toute résistance se trouve abolie. Des processus machiniques prennent le relais et assurent l’exécution automatique du désir, rivant l’individu à la puissance sans limites de ce système libidinal. Le numérique, par le confort réel qu’il procure, affaiblit les énergies individuelles potentiellement en révolte contre la réalité en place, alimente donc la conservation du système en dédommageant chacun par un confort accru, érodant par là même les énergies antagonistes. De ce monde, le sens de la transcendance se trouve lui-même exilé, car plus les satisfactions sont immédiates, plus l’aspiration à un monde autre s’éloigne.

L’urgence d’une réaction institutionnelle

Sous le rapport de la relation à la technique, l’enjeu majeur de notre siècle consistera sans doute à pouvoir se réapproprier ces évolutions qui nous échappent, et qui sont actuellement aux seules mains du marché. De ce point de vue, on peut saluer l’effort de l’Union européenne d’envisager une régulation juridique d’envergure pour les données numériques et pour l’intelligence artificielle, cette formidable pourvoyeuse de données ; mais, comme le montre une analyse plus fine, ces textes, certes ambitieux, restent néanmoins entièrement limités à une logique de marché.

Pour que la réappropriation soit authentiquement humaine, pour qu’elle puisse mettre l’humain au centre, il faut un mouvement d’ampleur, conjuguant dans un même élan la prise de conscience individuelle et collective, la volonté d’agir chacun à son niveau, l’éducation des générations futures, et surtout des institutions adéquates, qui soient à la hauteur du pouvoir des géants du numérique. Car une chose est sûre : les actions purement individuelles (se réserver des plages de déconnexion, les résolutions à plus de sobriété numérique, etc.), si elles sont méritoires, parfois héroïques, n’impactent en rien le système dans son ensemble. C’est pourquoi une réappropriation politique qui soit anthropologiquement significative doit prendre corps dans une institution (une ONU des nouvelles technologies, pourquoi pas ?). Une telle institution, il faut la créer, comme on a naguère créé les comités de bioéthique ; il faut donc faire fonctionner notre imagination institutionnelle, pour arracher aux forces aliénantes du marché le pouvoir de façonner l’homme de demain – pour que la technique soit au service de l’humain, pas d’un système qui lui échappe.

Mark Hunyadi

Né en 1960 à Genève de parents qui s’étaient réfugiés de Hongrie quatre ans plus tôt, Mark Hunyadi est actuellement professeur de philosophie sociale, morale et politique à l’Université catholique de Louvain (Belgique). Il a fait ses études à Genève, Paris et Francfort, auprès de Jürgen Habermas avec qui il a travaillé pendant deux ans, avant d’obtenir son doctorat à Genève en 1995 (direction : Jean-Marc Ferry). Il fut professeur de Philosophie morale et appliquée à l’Université Laval de Québec de 2004 à 2007. Il a fondé en 2010 le Centre Europé à l’UCL, où il fait également partie de Louvain Bionics, un centre de recherche consacré à l’interface entre robotique et médecine. Il rend compte régulièrement de l’actualité philosophique dans le Supplément littéraire du Temps (Lausanne/ Genève).
Ces quinze dernières années, il a consacré de nombreux travaux à l’éthique des technologies (notamment le numérique), un thème qu’il développe entre autres dans sa collaboration avec l’Institut Mines/Télécom à Paris, où il est professeur associé, et dans son enseignement comme professeur invité (pour trois ans) à l’EHESS de Paris. Son dernier livre est consacré à la confiance, et a paru en novembre 2020 sous le titre Au début est la confiance (Éd. de Bord de l’eau).

CC BY-NC-ND