Des algorithmes qui aident à exclure ?

Quyen Tran

p. 27-28

References

Bibliographical reference

Quyen Tran, « Des algorithmes qui aident à exclure ? », Revue Quart Monde, 248 | 2018/4, 27-28.

Electronic reference

Quyen Tran, « Des algorithmes qui aident à exclure ? », Revue Quart Monde [Online], 248 | 2018/4, Online since 01 June 2019, connection on 21 September 2020. URL : https://www.revue-quartmonde.org/7793

Les réalités connues dans les lieux et pays où sont implantées les équipes d’action du Mouvement international ATD Quart Monde nourrissent et confrontent la réflexion.
En réponse à un Appel à contributions du Haut-commissariat des Droits de l’homme en octobre 2017, l’auteur rédige une contribution sur le droit au travail. La rédaction en est étayée des réalités de terrain reçues récemment, qui l’interrogent.

Index de mots-clés

Société de l'information

Deux récits envoyés par notre Réseau européen de jeunesse attirent mon attention :

Un jeune de vingt-trois ans a passé une bonne partie de son enfance en foyer. Maintenant qu’il est en âge de travailler, on le place à l’assurance invalidité. C’est-à-dire qu’au lieu de lui accorder une occasion de travailler, on lui dit :

« On te donne de l’argent, un minimum pour que tu puisses vivre, étant donné que tu ne trouveras pas du travail… parce que tu es inapte… »

Ce jeune n’a jamais eu l’occasion d’apprendre, d’avoir une place sur le marché du travail, de jouir du droit au travail.

Une jeune de vingt-et-un ans a quitté l’école à l’âge de douze ans. Depuis, elle est enfermée chez elle toute la journée à s’occuper de toutes les tâches ménagères et de son petit frère de neuf ans... Sa mère est malade, et n’a plus la force d’assumer toutes ses tâches. La famille n’a pas de logement stable, a dû déménager quatre fois en deux ans ; des phases de stress à chaque fois de ne pas savoir où dormir. Elle occupe un appartement vide en ce moment. Quand la jeune fille va faire pointer son carnet de chômage, on lui demande si elle veut travailler. Elle répond par l’affirmative. Mais personne ne l’a jamais appelée ! Trop dur, dans sa situation, de faire les démarches, de chercher tout seul du travail. Ses journées la rattrapent, sa famille la sollicite.

Face à ces réalités, on constate un phénomène, une tendance qui doit nous interroger tous.

Des laboratoires d’informatique rivalisent pour mettre au point des algorithmes et vendre des logiciels qui, en matière d’embauche, éliminent automatiquement certains CV selon les critères d’adresse, de décrochage scolaire à tel moment, de passage par un dispositif d’insertion, etc. Ainsi, les responsables du recrutement ne perdent pas de temps à lire ces CV. Cela veut dire zéro chance d’avoir, ne serait-ce que l’étape de l’interview de candidatures, pour ceux tels que les deux jeunes ci-dessus !

Un débat éthique est nécessaire

Pourquoi me semble-t-il important de relater ces faits ?... L’accès au travail aujourd’hui et demain est impacté par le développement des algorithmes qui aident à discriminer et exclure, ces derniers impactant également le devenir de nos sociétés numérisées. Ces questions et ces perspectives dépassent largement un plaidoyer auprès des instances – internationales ou nationales –, voire le champ de compétence de ces dernières.

Cette dépendance excessive à des algorithmes décisionnels est suffisamment préoccupante pour que Philip Alston, le Rapporteur spécial des Nations Unies sur l’extrême pauvreté et les Droits de l’homme s’en alarme. Dans le compte-rendu de la visite de travail qu’il a effectuée aux États-Unis en 2017, il écrit :

« Les risques [des nouvelles technologies de l’information] sont également de plus en plus clairs. Une attention beaucoup plus grande doit être accordée à la manière dont les nouvelles technologies affectent les Droits de l’homme des Américains les plus pauvres. La question vaut d’être posée pour la population en général, car l’expérience montre que les pauvres sont souvent un terrain d’essai pour des pratiques et des politiques qui sont ensuite appliquées à d’autres. »1

Il a constaté une telle évolution dans les services aux personnes sans domicile fixe et le système pénitentiaire.

Ce phénomène affecte-t-il seulement la recherche-développement à la Silicon Valley ? Peut-on croire que le recours sans limite aux nouvelles technologies n’existe pas en Europe et dans d’autres pays du monde ? Sans balayer d’un revers de main les avancées qu’apporte l’intelligence artificielle dans de nombreux domaines – la santé, le transport, l’environnement, etc.–, il y a un questionnement, un débat éthique à faire.

Avec qui le ferons-nous ?

À suivre…

1 Compte-rendu fait au Conseil des droits de l’homme de l’ONU, 15 décembre 2017. Document disponible en anglais et espagnol : https://www.ohchr.org/EN

1 Compte-rendu fait au Conseil des droits de l’homme de l’ONU, 15 décembre 2017. Document disponible en anglais et espagnol : https://www.ohchr.org/EN/NewsEvents/Pages/DisplayNews.aspx?NewsID=22533&LangID=E

Quyen Tran

Ayant auparavant travaillé dans l’administration des hôpitaux, Quyen Tran est volontaire permanent d’ATD Quart Monde depuis une vingtaine d’années. Il a fait partie des équipes en France et aux Philippines et effectué une mission au Vietnam. Il est actuellement au Secrétariat des relations internationales.

By this author

CC BY-NC-ND