L’intelligence artificielle au service des plus pauvres

Hubert Tardieu

p. 6-11

References

Bibliographical reference

Hubert Tardieu, « L’intelligence artificielle au service des plus pauvres », Revue Quart Monde, 259 | 2021/3, 6-11.

Electronic reference

Hubert Tardieu, « L’intelligence artificielle au service des plus pauvres », Revue Quart Monde [Online], 259 | 2021/3, Online since 01 March 2022, connection on 15 August 2022. URL : https://www.revue-quartmonde.org/10390

Comment construire une société inclusive, respectueuse d’elle-même et de tous ses membres ?

L’intelligence artificielle, et plus généralement le numérique, jouent aujourd’hui un rôle essentiel dans nos vies, rôle qui s’est renforcé durant la pandémie car ils rendaient possible l’école à distance, le télétravail et plus généralement les seuls contacts qui nous restaient au-delà du strict cadre de notre foyer. Mais la pandémie a aussi mis en évidence les inégalités criantes que subissaient les plus pauvres qui n’étaient pas équipés d’un ordinateur, qui ne disposaient pas d’une connexion suffisante ou qui n’avaient pas reçu la formation pour utiliser le numérique. Cette fracture numérique, alors apparue comme critique, amène à repenser le numérique comme un bien commun.

Au moment où la France s’apprête à lancer un plan de relance énorme utilisant des crédits européens, l’Europe a demandé que 20 % des dépenses de ce plan soient consacrées au numérique ; dans le même temps, de nouvelles directives européennes sont présentées au parlement pour encadrer la mise en œuvre de l’intelligence artificielle.

ATD Quart Monde contribue depuis plusieurs années à cette prise de conscience en demandant que soit établi un droit à la connexion, en encourageant la rédaction à l’ONU d’un rapport sur « la transformation numérique à l’assaut de l’État providence » et enfin grâce aux militants d’ATD Quart Monde de Grande-Bretagne qui ont montré que les procédures utilisant l’intelligence artificielle ne sont pas démocratiques car non transparentes, et donc impossibles à contester.

Comment construire une société inclusive et respectueuse d’elle-même et de tous ses membres ?

L’intelligence artificielle (IA) et le numérique : de quoi parle‑t‑on ?

Dès les années 1970 se mettent en place les réseaux qui permettent de transporter des données qui, au lieu de relier deux personnes comme nous le faisons quand nous téléphonons sur un téléphone fixe, utilisent des techniques qui mettent en commun les moyens de communication qu’on appelle l’internet. Vingt ans plus tard nait le web qui permet de consulter, grâce à un logiciel appelé « navigateur » des pages accessibles sur les sites connectés.

La croissance du numérique a ensuite été vertigineuse avec 1,7 milliards de sites en 2019, plus de 2 milliards de PC connectés et 3 milliards de smartphones.

Le nombre d’internautes s’élève à 4 milliards, soit 54 % de la population mondiale (probablement 80 % dans les pays industrialisés) ; les utilisateurs des réseaux sociaux sont 4 milliards en 2020.

En France, 77 % de la population possède un smartphone et 76 % un ordinateur.

Les acteurs du numérique sont pour la plupart américains et souvent désignés comme les GAFA (Google, Apple, Facebook, Amazon). Ils ont, en l’espace de dix ans, permis le développement du numérique en offrant des services pratiques : recherche d’information pour Google, réseaux sociaux pour Facebook, commerce électronique pour Amazon, smartphone pour Apple. Ces services sont gratuits à l’usage et assez simples à utiliser. Les GAFA se rémunèrent en collectant les données générées et en les vendant aux annonceurs afin de personnaliser leurs offres.

Les GAFA ont été les premiers à mettre en évidence l’importance et la valeur des données et plus spécifiquement des données personnelles. Aux USA dans la plupart des états, les GAFA peuvent utiliser les données personnelles sans avoir le consentement des utilisateurs ; en Europe, le Règlement Général pour la Protection des Données (RGPD) oblige à demander le consentement préalable, que nous accordons souvent mécaniquement, pressés que nous sommes d’utiliser les services gratuits.

Chacun de ces services utilise des algorithmes qui, à partir des données déjà collectées sur nos habitudes, permet à Google de retrouver les informations que nous cherchons, ou la meilleure route pour aller à notre destination, à Facebook de nous proposer des « amis » avec qui nous pourrions souhaiter rentrer en contact, à Apple de trouver les musiques que nous pourrions aimer ou encore à Amazon de trouver les livres et les produits que nous pourrions acheter.

Ces algorithmes peuvent être schématiquement de deux natures :

  • Ils peuvent être programmés par des informaticiens pour exécuter des traitements complexes pour retrouver les documents les plus appropriés en fonction des mots-clés utilisés, la meilleure route en fonction des distances et du trafic pour nous rendre à destination, le meilleur fournisseur pour acheter un livre ou un objet ; dans ce cas l’algorithme est jugé efficace s’il donne de bons résultats et c’est tout le talent du programmeur que de trouver le traitement le plus efficace.

  • Ils peuvent utiliser l’intelligence artificielle qui, à partir de données collectées et de l’apprentissage machine1, permettra de donner des résultats efficaces pour vous proposer un livre que vous pourriez aimer en analysant la liste des livres que vous avez achetés, un ami parmi les personnes avec qui vous communiquez, une musique que vous apprécierez en examinant les playlists des gens qui vous ressemblent.

L’intelligence artificielle utilise des données du passé et ses résultats s’améliorent si des spécialistes peuvent confirmer à l’apprentissage machine que les résultats proposés sont corrects. Par définition, l’apprentissage machine ne peut que reproduire des résultats du passé ce qui peut être un progrès pour la médecine en particulier pour la détection des cancers à partir de l’imagerie numérique, pour l’assistance à la conduite des voitures à partir des images enregistrées de la route et peut être un jour pour aider les juges à rendre des décisions à partir des cas similaires du passé : la jurisprudence. C’est l’accumulation des cas passés qui ont marché ou échoué qui permet de recommander la bonne décision.

Trois dangers doivent être signalés pour l’apprentissage machine :

  1. Les biais dans les données, c’est-à-dire l’utilisation de données qui seraient faussées : la reconnaissance des visages à partir d’images de personnes, biaisée parce que l’apprentissage machine n’a été entrainé qu’avec des images de personnes blanches.

  2. L’insuffisance dans le recours à des spécialistes pour juger de la qualité des résultats.

  3. L’absence d’explications sur les résultats fournis : ce qu’on appelle « l’explicabilité ».

Les deux premiers dangers sont purement techniques et ont conduit à des échecs majeurs de l’intelligence artificielle dans le domaine de la santé ; l’intelligence artificielle est une discipline récente qui corrige progressivement ses erreurs de jeunesse.

Le troisième danger est beaucoup plus sérieux et fait l’objet de nombreuses recherches et bientôt d’une réglementation européenne.

Sur l’« explicabilité », la tendance est de demander aux responsables des algorithmes de préciser quelles sont les données qui ont le plus pesé dans la réponse : adresse ou prénom d’un candidat à un job pour le rejeter, genre pour refuser un crédit immobilier.

La réglementation qui a été proposée au Parlement européen distingue le niveau de risque parmi les applications de l’IA :

  • Inacceptable : l’évaluation sociale telle qu’elle se pratique en Chine, permettant de refuser à un citoyen qui a critiqué le gouvernement de prendre le train. La réglementation les refusera.

  • Haut risque : la voiture sans conducteur, le contrôle de l’immigration, les décisions de justice, l’attribution des aides au plus pauvres. La réglementation demandera une autorisation préalable.

  • Risques limités : les chatbots2 permettant à l’utilisateur de prendre des décisions sur la base des informations fournies. La transparence sur l’origine des données sera demandée.

  • Risques minimaux : le reste des applications sans règlementation.

Comment l’IA et le numérique transforment le monde

Le champ de l’application du numérique et de l’IA est très vaste. C’est un univers très stimulant. L’humanité est engagée dans une évolution probablement plus profonde que nous ne pouvons aujourd’hui l’imaginer. Les êtres humains vont de plus en plus naître, grandir, apprendre, vivre, travailler, mourir dans un environnement constitué d’écrans, de réseaux, de chatbots, de reconnaissance faciale et d’autres choses dont nous n’avons pas aujourd’hui idée. L’inventivité dans l’utilisation des technologies est inépuisable et imprévisible.

Le numérique n’échappe pas à un renforcement d’une société d’abondance et de surconsommation en raison de l’attraction de la gratuité apparente, de l’accès de partout et de l’illimité. Les écrans et les smartphones transforment notre mode de vie vers plus de virtuel, ce qui est utile en temps de pandémie pour les adultes mais très dangereux pour les enfants en bas âge s’ils ne sont pas accompagnés par leurs parents.

Le numérique a apporté la proximité et la relation grâce à la messagerie et aux réseaux sociaux mais aussi la haine en ligne et les fake news qui sont de plus en plus difficilement contrôlables.

La société se constitue progressivement d’individus qui se croient plus libres mais qui se retrouvent en fait dans des bulles d’entre-soi qui sont organisées par les réseaux sociaux pour les mettre en contact uniquement avec d’autres qui pensent comme eux.

La société se trouve en position de contrôler et de surveiller les individus, et les citoyens hésitent entre un souci d’efficacité et le maintien de leur liberté. La campagne de vaccination contre le Covid en Israël a démontré une efficacité remarquable aux dépens d’un abandon des libertés qui n’aurait pas été accepté en Europe.

Enfin, le numérique a apporté de nouvelles formes d’emploi qui se sont illustrées chez les chauffeurs Uber ou les sociétés de livraison de pizzas Quine : ils ne sont plus des employés avec des droits mais des travailleurs, baptisés souvent entrepreneurs individuels, uniquement payés à la tâche, sans aucune protection sociale.

Toutes ces transformations de notre société amènent de nouvelles formes d’exclusions qui frappent d’abord les plus démunis et qui doivent donner lieu à une réflexion sur notre vision de l’homme.

L’IA et le numérique changent notre vision de l’homme

Le numérique et l’IA représentent une nouvelle étape dans un itinéraire des progrès techniques : invention de l’écriture, de l’imprimerie, de la machine à vapeur, de l’électricité et plus récemment du génome et de sa transformation. Chacune de ces découvertes nous conduit à une nouvelle vision de l’homme ; le numérique est la première invention qui touche tous les aspects de nos vies, les 8 milliards d’hommes et de femmes, dans un temps très bref d’une trentaine d’années, avec une nette accélération dans les dix dernières années.

Certains pensent que le progrès technique est facteur systématique de progrès pour l’humanité. Par la technique, l’humanité voudrait s’affranchir des phénomènes plus ou moins aléatoires de la nature : éviter les famines et les travaux pénibles, guérir les maladies, permettre à tous de mieux vivre, de lire et de se cultiver.

Mais ce schéma est aujourd’hui mis en question : l’humanité n’est-elle pas devenue trop dépendante des systèmes techniques, qui poursuivent leur propre logique de profit aux dépens de ceux qui les utilisent ?

Plus profondément, le numérique et l’IA changent notre rapport au temps, à la mémoire et à l’espace. Le numérique nous pousse à sacraliser le moment présent et nous donne la capacité de faire plusieurs choses à la fois, de décider plus vite au détriment d’une réflexion et d’une anticipation qui font notre liberté. Notre mémoire est désormais « augmentée » grâce à notre smartphone qui nous permet de retrouver instantanément ce que nous cherchons mais dans le même temps, nous laissons des traces qui seront utilisées par l’IA pour nous proposer des décisions fondées sur notre passé, sur des comportements de personnes qui nous ressemblent. L’espace devient progressivement virtuel ; grâce aux algorithmes notre smartphone nous localise et nous indique notre itinéraire. Progrès ou perte d’autonomie et de liberté ? En tout cas impossible de revenir en arrière, particulièrement pour les nouvelles générations. En témoignent notre désolation quand l’absence de réseau nous prive de la technique, et nos adolescents qui, arrivés dans une nouvelle maison, demandent le code wifi avant de savoir où ils vont dormir.

L’IA et le numérique changent profondément notre rapport aux autres et à nous-mêmes. Les réseaux sociaux rapprochent les personnes et sont des lieux de partage, on s’y fait des « amis » mais pas par hasard comme dans la vraie vie, les amis nous sont proposés par Facebook qui les choisit grâce à ses algorithmes pour une relation qui est utile parfois, superficielle le plus souvent. Les réseaux sociaux changent aussi notre rapport à nous-mêmes ; nous formons notre personnalité par les relations que nous avons avec notre famille, nos proches, nos collègues de travail. Sans le numérique se créée une estime de soi fondée sur les relations avec les autres. Les réseaux sociaux superposent une autre évaluation par les « like » et les commentaires qui sont traités par les algorithmes pour attirer l’attention des autres et non pour créer une empathie qui façonne la personne.

Enfin l’IA et le numérique changent notre rapport au corps, à la maladie et à la mort. La découverte par l’enfant du monde qui l’entoure, sur sa tablette, aura des impacts qu’on mesure encore mal. Aujourd’hui nous utilisons principalement les écrans pour voir et entendre ce que le numérique peut apporter mais nous voyons déjà les progrès et les risques que les capteurs pourront apporter pour une médecine personnalisée qui permettra de suivre notre rythme cardiaque ou notre taux de cholestérol en continu, plutôt que durant une visite chez le médecin. La réparation des corps grâce au numérique devient réalité : elle peut permettre une vie en bonne santé mais, au-delà, elle risque de viser à allonger de manière artificielle notre durée de vie.

Quelle société avec le numérique et l’IA : le numérique pour le bien commun ?

Ce qui nous fait humains est moins de chercher une croissance quantitative personnelle que de porter attention à autrui, en particulier au plus vulnérable. « Le signe que nos consciences ont été déformées par la technologie est notre mépris de la faiblesse » disait le pape François.

La société souhaitable est une société respectueuse de son environnement, démocratique et inclusive, c’est-à-dire respectueuse d’elle-même et de ses membres.

Le souci de l’inclusion conduit à développer un numérique et une IA qui, dès leur conception s’adressent à tous et, pour cela, d’écouter les attentes des plus pauvres et de se poser la question : « En quoi le numérique contribue-t-il au bien commun ? »

Si le numérique et l’IA sont des biens communs, alors personne n’est exclu de leur usage et l’usage par les uns n’empêche pas l’usage par les autres. On a pu écrire, à juste titre, que le numérique était la première technique inventée par l’homme dont l’objectif pour ses inventeurs était différent de celui que percevaient ses utilisateurs : nous cherchons une information, nous achetons un produit avec notre smartphone, ce qui nous rend service, mais l’objectif pour les GAFA est de récupérer nos données personnelles pour financer son développement et faire des profits.

Nous devons prendre conscience de cet objectif non dit et veiller à ce que ces données soient partagées de façon transparente : en demandant notre consentement pour les collecter et en nous assurant de l’usage qui en est fait. L’Europe a dans ce domaine montré la voie avec le RGPD ; mais nous devons aller plus loin en pensant le numérique et l’IA comme un bien commun, ce qui entraînera notre capacité à contrôler à la fois l’usage qui est fait de nos données, mais aussi les algorithmes qui les utilisent. L’attrait du service rendu ne doit pas obscurcir notre jugement.

En pratique le numérique et l’IA représentent un enjeu tel que le droit à la connexion doit être garanti dans une logique similaire à celle qui a poussé l’ONU à promouvoir l’éducation pour tous. Associée à cet effort, doit se développer une prise en compte des questions éthiques ; la création d’un comité d’éthique pilote sur le numérique à côté de celui sur la biologie est une avancée3. Enfin, ATD Quart Monde doit peser sur les politiques publiques. Le plan de relance va consacrer 20 % de ses financements au numérique, assurons-nous que les plus défavorisés y trouvent leur place ; ce numéro de la Revue devra y contribuer.

1 L’apprentissage machine est une branche de l’intelligence artificielle fondée sur des approches statistiques qui permet aux ordinateurs d’« 

2 Le chatbot est un programme qui tente de converser avec une personne en repérant des mots-clés déclencheurs pour trouver des réponses et pour

3 Cf. l’article de Claude Kirchner et Jérôme Perrin, p. 28.

1 L’apprentissage machine est une branche de l’intelligence artificielle fondée sur des approches statistiques qui permet aux ordinateurs d’« apprendre », c’est-à-dire de résoudre des tâches sans être explicitement programmés pour chacune.

2 Le chatbot est un programme qui tente de converser avec une personne en repérant des mots-clés déclencheurs pour trouver des réponses et pour poursuivre la conversation.

3 Cf. l’article de Claude Kirchner et Jérôme Perrin, p. 28.

Hubert Tardieu

Hubert Tardieu a été un des dirigeants d’Atos, une des grandes entreprises de service numérique européenne. Il a dirigé sa communauté scientifique et conseillé son PDG de 2010 à 2020. Depuis 2020 il a participé à la création de GAIA-X, grand projet européen pour le cloud et le partage des données industrielles. Il en a été le directeur général puis le président avant de devenir administrateur indépendant. Il est l’auteur de plusieurs livres, dont Le numérique au service du bien commun, à paraître à la rentrée 2021 chez Odile Jacob.

CC BY-NC-ND