L’État-providence numérique et les droits de l’homme

Philip G. Alston

p. 36-39

References

Bibliographical reference

Philip G. Alston, « L’État-providence numérique et les droits de l’homme », Revue Quart Monde, 259 | 2021/3, 36-39.

Electronic reference

Philip G. Alston, « L’État-providence numérique et les droits de l’homme », Revue Quart Monde [Online], 259 | 2021/3, Online since 01 March 2022, connection on 15 August 2022. URL : https://www.revue-quartmonde.org/10401

L’auteur a rédigé un rapport1 consacré à l’impact de l’intelligence artificielle sur les droits de l’homme. Nous en publions le résumé et quelques extraits ci-dessous. Pour en faciliter la lecture, nous n’avons pas intégré les très nombreuses références, que vous pourrez retrouver, avec le rapport complet sur le site des Nations Unies (ou en utilisant le code QR au bas de cet article).

L’État-providence numérique est déjà une réalité ou une réalité en devenir dans de nombreux endroits du monde. Dans les pays concernés, les données et technologies numériques occupent une place de plus en plus déterminante dans les systèmes de protection et d’aide sociale, où elles servent à automatiser, prévoir, identifier, surveiller, détecter, cibler et punir. Constatant que, pour les États, il est difficile de résister à cette tendance et à ses attraits, le Rapporteur spécial met en garde contre le grave risque que nous courons de nous engager sans réfléchir, tels des automates, sur la voie d’un monde dystopique où la protection sociale serait totalement dématérialisée. Il soutient que les grandes entreprises technologiques (souvent appelées « big tech ») mènent leurs activités dans une zone de quasi non-droit pour ce qui est des droits de l’homme, ce qui est particulièrement problématique à l’heure où le secteur privé joue un rôle prépondérant dans la conception, l’édification et même l’exploitation de pans entiers de l’État-providence numérique. Il recommande de cesser de se focaliser sur la fraude, les économies, les sanctions et l’efficacité telle que définie par le marché pour se recentrer sur l’essentiel, à savoir comment tirer parti des technologies pour que les budgets alloués à la protection sociale permettent aux personnes vulnérables et défavorisées de jouir d’un meilleur niveau de vie.

L’analyse des nombreuses contributions reçues et de plusieurs études de cas examinés dans des travaux sur le sujet fait apparaître différents usages de l’innovation numérique, qui interviennent à différents stades du parcours des bénéficiaires des services sociaux.

Vérification de l’identité

La cible 16 des objectifs du développement durable prévoit de garantir à tous une identité juridique, notamment grâce à l’enregistrement des naissances, d’ici à 2030. Il est indispensable d’avoir une identité vérifiable pour pouvoir demander et recevoir des prestations, établir ses droits en la matière et faire appel en cas de refus. Que le prestataire soit l’État ou non, la vérification des identités permet d’éviter les doublons et la fraude, facilite un ciblage précis et accroît l’efficacité. Traditionnellement, on utilise des documents sur support papier ou plastique (certificats de naissance, cartes d’identité, passeports, etc.). Ces systèmes fonctionnent assez bien dans la plupart des pays du Nord, même si 21 millions d’adultes aux États-Unis ne possèdent pas de pièce d’identité avec photo délivrée par les autorités. En ce qui concerne les pays du Sud, 502 millions de personnes en Afrique subsaharienne et 357 millions en Asie du Sud n’ont pas de pièce d’identité officielle. Au Libéria, par exemple, le taux d’enregistrement des naissances n’est que de 5 % et la carte d’identité n’a été introduite qu’en 2015. […]

L’Inde dispose du plus grand système d’identification biométrique au monde : Aadhaar. Les résidents du pays se voient délivrer un numéro d’identification unique à 12 chiffres, auquel sont associés des renseignements démographiques et des données biométriques, à savoir l’image des iris, une photographie et les empreintes digitales. Désormais obligatoire pour accéder aux prestations et allocations sociales, le système sert à vérifier l’identité des bénéficiaires. Inauguré en 2009, il couvre aujourd’hui plus de 1,2 milliard de personnes et a reçu la caution enthousiaste de la communauté internationale du développement. Plus de 20 pays auraient exprimé leur intérêt à s’inspirer de l’exemple d’Aadhaar.

Sur le plan intérieur, toutefois, le système divise toujours. Aadhaar, dont certains détracteurs auraient été harcelés et surveillés, est critiqué pour diverses raisons : recueil inutile d’informations biométriques, graves lacunes du contrôle législatif, usage détourné, surveillance et autres atteintes à la vie privée, problèmes de cyber sécurité et obstacles à l’exercice de toute une série de droits sociaux.

En 2018, la Cour suprême de l’Inde, dans un arrêt historique de 1 448 pages, a confirmé la constitutionnalité d’Aadhar, tout en émettant quelques réserves. La Cour a semblé considérer l’identification biométrique dans le contexte des prestations sociales comme légitime, proportionnelle et même inévitable. L’objectif d’Aadhaar, à savoir que les prestations parviennent bien aux bénéficiaires visés, constituait naturellement un objectif légitime de l’État. Mettant en balance les droits à la sécurité sociale et les droits à la vie privée, la Cour a jugé que l’enregistrement de données biométriques représentait une atteinte minime au droit à la vie privée ; elle est allée jusqu’à qualifier Aadhaar d’outil indispensable à la bonne gouvernance dans un État-providence social. L’arrêt de la Cour suprême ne semble cependant pas avoir mis fin à la controverse qui entoure le dispositif.

En 2019, le Kenya a exigé de tous ses citoyens, y compris ceux vivant à l’étranger, ainsi que de tous les ressortissants étrangers et réfugiés âgés de plus de 6 ans se trouvant dans le pays, qu’ils obtiennent une carte d’identité nationale pour accéder à des services assurés par l’État, y compris les prestations sociales. Pour obtenir cette carte, les demandeurs devaient fournir des données biométriques sous forme numérique : empreintes digitales, géométrie de la main et du lobe de l’oreille, empreintes rétiniennes, image de l’iris, empreintes vocales et ADN. En réponse à une plainte selon laquelle le système national intégré de gestion de l’identité (National Integrated Identity Management System, NIIMS), également connu sous le nom de Huduma Namba (« matricule » en swahili), violait les droits à la vie privée, à l’égalité, à la non-discrimination et à la participation aux affaires publiques, la Haute Cour a rendu une ordonnance de référé permettant la poursuite des procédures d’enregistrement, mais uniquement sur une base volontaire, la prestation de services ou le versement d’allocations aux bénéficiaires ne pouvant être subordonnés à leur enregistrement. Par la suite, l’enregistrement a progressé rapidement : près des deux tiers de la population s’y sont soumis et le Gouvernement menacerait d’empêcher les personnes non enregistrées d’accéder aux prestations et de voter. […]

De nombreux autres exemples pourraient être donnés de pays qui utilisent ou étudient la possibilité d’utiliser des systèmes d’identité numérique, notamment l’Afrique du Sud, l’Argentine, le Bangladesh, le Chili, les États-Unis, l’Irlande, la Jamaïque, la Malaisie et les Philippines.

Détermination des droits à prestations

Dans de nombreux pays, les droits à prestations sont de plus en plus souvent déterminés grâce à des programmes automatisés. Un cas particulièrement édifiant est celui de l’Ontario (Canada) : en 2014, les décisions concernant les droits à prestations y ont été automatisées au moyen du Système de gestion de l’aide sociale, programme basé sur Cúram, un progiciel d’IBM personnalisable et disponible sur le marché, également utilisé dans les programmes d’aide sociale en Allemagne, en Australie, aux États-Unis et en Nouvelle-Zélande. […] Cependant des erreurs importantes sont apparues.

Calcul et versement des prestations sociales

Le calcul et le versement des prestations sont de plus en plus souvent effectués à l’aide de technologies numériques sans le concours de praticiens de l’action sociale individualisée ni autre type d’intervention humaine. Bien que ces systèmes aient en puissance de nombreux avantages à offrir, le Rapporteur spécial a également reçu des informations sur des exemples frappants d’erreurs ou de défaillances des systèmes qui avaient causé de sérieux problèmes à un grand nombre de bénéficiaires. Il s’agit notamment du système automatisé de collecte et de recouvrement des créances (« robo-dette ») en Australie, du système Real Time Information (informations en temps réel) au Royaume-Uni et du Système de gestion de l’aide sociale au Canada.

De plus en plus, des cartes de paiement ou de débits électroniques sont émises à l’intention des prestataires de l’aide sociale. Les informations communiquées au Rapporteur spécial au sujet de ces programmes en Afrique du Sud, en Australie et en Nouvelle-Zélande font apparaître des problèmes très similaires. Premièrement, les bénéficiaires ont souvent des difficultés à accéder à leur droit à la sécurité sociale et à l’exercer pleinement. Deuxièmement, lorsque de telles cartes sont clairement reconnaissables comme étant liées à l’aide sociale, leurs usagers disent avoir ressenti de l’impuissance, de la gêne et de la honte, problème exacerbé chez les usagers venant de communautés longtemps habituées à l’exclusion. Troisièmement, les cartes électroniques permettent aux administrations responsables de l’aide sociale et à des acteurs privés de contrôler et de surveiller des données comportementales, ce qui suscite d’importantes inquiétudes du point de vue des droits de l’homme.

En outre, l’externalisation de l’émission et de l’administration de cartes électroniques à des sociétés privées a entraîné des problèmes tels que l’incitation des usagers à acheter des produits financiers commerciaux et l’imposition de frais d’utilisation. De façon plus générale, les mentalités à l’égard de ces cartes sont souvent le reflet de stéréotypes véhiculant, par exemple, l’idée que celles et ceux qui vivent dans la pauvreté ne seraient pas dignes de confiance ni rationnels sur le plan financier. […]

Calcul des risques

Inévitablement, le calcul des risques se trouve au cœur de la conception des systèmes de protection sociale, et les technologies numériques peuvent atteindre des niveaux de sophistication très élevés à cet égard. En plus de la détection et de la prévention de la fraude, la protection de l’enfance a été une priorité majeure dans ce domaine, comme l’illustrent les exemples des États-Unis, de la Nouvelle-Zélande, du Royaume-Uni et du Danemark. Les pouvoirs publics appliquent également ces techniques pour décider si une assistance sera prêtée aux chômeurs et pour en déterminer le montant. En Pologne, un dispositif de ce type qui a fait grand bruit a été jugé inconstitutionnel, mais en Autriche, un système algorithmique continue de classer les demandeurs d’emploi en différentes catégories pour déterminer l’aide qu’ils recevront des agences publiques pour l’emploi. […]

Image 1000000000000359000000FA3F9BD42AD4921544.png

1 En application de la résolution 35/19 du Conseil des droits de l’homme. Rapport soumis à l’Assemblée générale des Nations Unies, le 11 octobre 2019.

1 En application de la résolution 35/19 du Conseil des droits de l’homme. Rapport soumis à l’Assemblée générale des Nations Unies, le 11 octobre 2019. Voir https://undocs.org/A/74/493

Philip G. Alston

Philip G. Alston est un universitaire australien spécialiste du droit international et un praticien des droits de l’homme. Il a été le Rapporteur spécial des Nations Unies sur les exécutions extrajudiciaires, sommaires ou arbitraires, d’août 2004 à juillet 2010. Entre 2014 et 2020, il a été Rapporteur spécial des Nations Unies sur l’extrême pauvreté et les droits de l’homme.

CC BY-NC-ND