« On ne sait pas trop… »

Michel Lansard and Hortense Dagnac-Lagrange

p. 12-17

References

Bibliographical reference

Michel Lansard and Hortense Dagnac-Lagrange, « « On ne sait pas trop… » », Revue Quart Monde, 259 | 2021/3, 12-17.

Electronic reference

Michel Lansard and Hortense Dagnac-Lagrange, « « On ne sait pas trop… » », Revue Quart Monde [Online], 259 | 2021/3, Online since 01 March 2022, connection on 09 December 2022. URL : https://www.revue-quartmonde.org/10392

La coordination et la rédaction de cet article ont été menées par Michel Lansard et Hortense Dagnac-Lagrange, au nom du « département numérique », créé en novembre 2020 par Michel Lansard, afin que la numérisation de nos sociétés n’ajoute pas de l’exclusion à l’exclusion. Il comprend actuellement une douzaine d’alliés. Le but premier est le plaidoyer auprès des différentes instances de nos sociétés, s’appuyant sur une connaissance du vécu transmise par les militants Quart Monde, et sur une veille permanente au niveau du numérique. Il s’agit aussi d’aider les différents départements et dynamiques du mouvement concernant la numérisation dans leur domaine d’action.
 
Qu’est-ce qu’est l’Intelligence Artificielle1 (ci-après IA) ? Comment se manifeste-t-elle ? Comment impacte-t-elle la vie quotidienne ? Comment l’utiliser ? Quels sont ses avantages et ses inconvénients ?... Deux groupes de réflexion constitués de membres du mouvement ATD Quart Monde s’expriment à ce sujet.
- À Brest, une séance de l’Atelier lire écrire numérique a été consacrée à l’IA.
- À Lyon, un Café rencontre sur le sujet de l’IA a été organisé à la maison Quart Monde, avec des personnes de différents quartiers ainsi que d’un centre d’accueil de jour.

On ne sait pas trop ce que veut dire l’intelligence artificielle

« Ce n’est pas un sujet [l’IA] qui au premier abord vient dans les conversations, on peut penser qu’on n’a pas grand-chose à dire car on n’est pas des ‘spécialistes’. Et pourtant...
Comprendre, apprendre, choisir traiter, s’adapter sont des actions qui relèvent de l’intelligence, donc aussi de l’intelligence artificielle. »

« Ils [les individus] ne connaissent pas le mot. Ils connaissent en général qu’il existe, qu’il est là, parce qu’ils le voient tous les jours dans le téléphone, l’ordinateur… »

« Intelligence artificielle, j’ai jamais entendu ça… Intelligence, je sais ; artificielle, je connais les fleurs artificielles, ce qui n’est pas naturel. L’intelligence artificielle, une intelligence qui n’est pas naturelle ? L’intelligence, c’est une grandeur de l’être humain. L’intelligence artificielle serait une intelligence qui ne bouge pas car l’artificiel reste en vie longtemps sans pour autant… ‘se faner’.
Une intelligence qui ne bouge pas donc qui n’existe pas ? Ça peut être dangereux quand c’est artificiel car on ne peut pas contrôler. »

« Qu’est-ce-que l’intelligence artificielle ? L’intelligence, c’est quelque chose qui réfléchit, qui sait réagir, prendre des décisions ; un ordinateur ou une machine ne peut pas le faire, il est dépendant de l’homme pour l’instant, un jour arriverons-nous à faire réfléchir les machines ? Science-fiction ?
Artificielle, artifice, qui n’est pas vivant, qui ne réfléchit pas seul. »

« Quand j’entends ‘intelligence artificielle’, je me sens un peu désemparé. Le premier mot ‘intelligence’ me plait bien. Mais il y a plein de sortes d’intelligence ; celle que je préfère c’est l’intelligence du cœur et je crois que c’est la plus importante. L’autre sert trop souvent à classer les gens. Mais si les deux sont ‘naturelles’ elles peuvent être développées par l’éducation et la culture.
Le second mot – ‘artificielle’ – n’est pas très positif, il n’est peut-être pas très bien choisi ? ‘Numérique’ dirait mieux qu’il s’agit, par la puissance gigantesque des calculs, d’augmenter les capacités humaines. Comme toujours, plus il y a de puissance plus il devrait y avoir de sagesse. »

« Je ne vois pas ce que c’est, je n’en ai pas entendu parler… [l’intelligence artificielle]
L’intelligence, quand on est intelligent on y arrive sans apprendre à l’école. On sait faire les choses seul. La tête est intelligente, on ne réfléchit pas pour faire les choses, ça arrive comme ça.
Artificiel : ce qui me vient c’est les plantes artificielles, en plastique, c’est pas des vraies.
Intelligence + artificielle : les ordinateurs, les programmes qu’il y a dedans ? Ça veut peut-être dire que ce n’est pas l’homme qui fait, c’est la machine, comme les caisses dans les magasins, les toilettes qui se nettoient seules, les robots. »

Donner un autre nom à l’IA

« Artificielle, d’accord. Mais c’est réel ? C’est l’Homme qui l’a créée ? Artificielle, c’est toi qui la changes [l’intelligence]. Donc c’est une intelligence réelle, elle a été créée par des humains réels. Si c’est l’homme qui la crée, ce n’est pas artificiel, c’est réel ».

Lors du Café rencontre de Lyon, les participants ont proposé des termes qui seraient plus adéquats pour désigner l’intelligence artificielle : « Une intelligence réelle ; un raisonnement artificiel ; une connaissance artificielle ; une logique artificielle ».

L’IA représente une menace

« Je n’ai pas beaucoup de connaissances scientifiques, mais quand j’entends ‘intelligence artificielle’, je suis à la fois intéressée, curieuse de comprendre (au moins un peu…) et inquiète ! Je sais que ces connaissances, de plus en plus poussées, vont bouleverser l’humanité dans les prochaines années. Mais… ne sont- elles pas une menace pour ‘l’humain’, pour ce qu’il y a de plus profond en nous ? Je repense à cette maman, vue à la télé, bouleversée parce que sa fille de 16 ans, trisomique, avait placé en tête de la liste des personnes qu’elle désirait inviter pour son anniversaire… le nom du robot qui servait les repas à l’IME2 où elle était ! Les robots peuvent-ils – ou pourront-ils – éprouver des émotions ?
Si l’intelligence des robots va plus loin, sans conscience, sans jugement, que celle des hommes qui les programme, où cela peut-il conduire ?
Je me souviens d’une phrase de Michel Serres (dans ‘Le Tiers-Instruit’) qui m’a toujours frappée : ‘La Science deviendra sage quand elle se retiendra elle-même de faire tout ce qu’elle peut faire’. »

L’IA c’est aussi les robots3

« L’intelligence artificielle c’est les robots, la robotique, les caisses automatiques qui suppriment les caissières, le métro sans chauffeur (bientôt il y aura les voitures, les avions), le robot de jardin, le robot pour faire des voitures mais qui va supprimer des ouvriers. C’est ce qui se fait tout seul sans l’être humain. Plus ça va dans les usines, plus il y a des robots et moins d’emplois. On va dans l’inconnu, ça fait peur, ça nous dépasse. Le rapport humain n’est plus là… »

« Avec les robots, il n’y aura plus de travail, il y aura du chômage, ça sera de pire en pire. » « Il y a un programme au Japon, on peut commander un robot pour de la compagnie, pour les gens qui sont seuls. Le robot il vient chez toi selon un forfait, et il t’écoute. Ça montre une société à la dérive, qui marchande des liens humains. La personne a besoin de liens humains, on fait appel à un robot qui écoute, qui répond avec des phrases déjà préenregistrées. C’est effrayant. Le robot n’a pas de nuance, il n’a pas d’empathie, de chaleur humaine, c’est juste un programme scientifique. Ça ne peut pas remplacer le contact humain. »

« Je ne veux pas aller voir un psychologue robot. »

Le serpent qui se mord la queue

« L’intelligence artificielle, pour moi, elle est hyper ancrée dans le monde qu’on vit maintenant aujourd’hui, du fait que justement on cherche des gens de plus en plus performants et c’est eux qui ont créé ça, les programmes ; c’est un peu le serpent qui se mord la queue. Ce sont les créateurs qui ont créé des programmes compliqués, eux seuls capables de comprendre ou de décrypter et ça, j’ai l’impression que ce culte-là, de l’humain performant sur plein de domaines, l’intelligence artificielle, ça joue beaucoup en termes de compréhension. »

L’IA fait peur

« Cela me fait un peu peur, c’est faire un saut vers l’inconnu.
Je ne veux pas que cette intelligence artificielle prenne le pas sur les relations humaines. Mais je sais qu’on a besoin aussi de cette intelligence dans notre vie quotidienne, comme pour les tâches du quotidien. Il faut que cette intelligence soit accessible à toutes et à tous.
 »

« Si l’Homme n’a pas encore créé une intelligence artificielle à plusieurs tâches, c’est qu’on a encore un pseudo contrôle aussi sur la machine. Mais jusqu’à quand ? La question qui se pose, qui me fait peur, c’est le contrôle des machines sur l’Homme. Par exemple, une machine qui va pointer ton passage quand tu arrives dans l’entreprise ; le jour où il t’arrive un truc, elle va pointer que tu ne sois pas là et on ne pourra pas l’appeler en lui disant : ‘Tiens machine, il m’est arrivé un truc perso’ ; pour elle t’es un numéro, donc t’es pas là, t’es pas là. On n’est plus dans de la relation humaine, dans de la compréhension, on est de la donnée pure. Ça facilite des grands patrons sur le contrôle de leurs salariés,... et jusqu’où ça peut aller ? Il y a déjà des dérives aujourd’hui. »

Quel futur ?

« ‘Science sans conscience n’est que ruine de l’âme’ écrivait Rabelais. Du coup la question se pose aux deux bouts du processus : quelles innovations vont être proposées par les entreprises et nous, ‘consommateurs-usagers’, quelles nouveautés voulons-nous utiliser ? »

Il faut un encadrement

« Le problème vient que souvent les innovations nous sont imposées. C’est pas grave si, par exemple, on a une voiture équipée d’un déclenchement automatique de l’essuie-glace sans l’avoir demandé ; c’est plus grave si cela permet de pister nos envies avant qu’elles ne deviennent pour nous des choix bien pesés. Alors qui doit décider ? Le problème est politique, démocratique. Si la recherche doit être libre, ses applications doivent être réglementées. Mais par qui, comment ? »

Un manque d’éthique4

« Il n’y a pas d’éthique dans l’intelligence artificielle, c’est ce qui me gêne, il n’y a pas de commissions d’éthique. »

La recommandation de vidéo

« Il y a un côté de l’infini, une vidéo arrive toujours sur une autre vidéo, sur un autre univers. Ça ne s’arrête jamais, ça aussi... »

La publicité ciblée

« Quand on rentre dans un type de magasin [en ligne], si on choisit un article, après on le trouve de partout, dans chaque application où on va : Instragram, Facebook. Par rapport aux recherches, on sent parfois qu’on est un peu suivis, traqués. C’est un peu embêtant. »

« Eux, ils partent du principe qu’ils viennent satisfaire vos besoins, mais derrière, c’est juste des immenses données que s’envoient tous les grands groupes justement pour arriver à vous vendre un maximum de choses. L’intelligence artificielle sait exactement ce que tu as fait et va te proposer en fonction. Moi je n’avais pas encore d’enfants que ça m’envoyait des pubs de couches, parce que j’allais sur des sites. »

L’IA joue sur la santé

« Croiser des données, des informations de manière bien plus forte que ne peut le faire un cerveau humain peut bien évidemment permettre à la recherche médicale, par exemple, de progresser dans la guérison de certaines maladies. »

« Ils [les professionnels] disent qu’ils peuvent peut-être trouver des cancers, des tumeurs… car ils ont des machines super performantes. Si ça peut accompagner l’homme dans ses recherches, ça peut être un atout. Mais le souci c’est que ça ne va pas être utilisé que pour la santé, on le sait déjà. »

« Ça peut rendre service pour le dépistage mais pas pour les soins. »

« Dans ce domaine, l’intelligence artificielle peut faire des choses extraordinaires, telles que les prothèses bioniques. »

Une utilisation raisonnée

« L’Intelligence artificielle, elle fait du bien et elle fait du mal. Il faut savoir comment tu manipules. C’est artificiel, certes, mais c’est dangereux aussi, ça dépend comment on manipule notre ordinateur, notre portable ou notre programme. »

« Le problème c’est l’utilisation qu’on en fait. »

« L’intelligence artificielle peut apporter le meilleur comme le pire. On ne peut laisser cela dans les seules mains des techniciens, chercheurs et décideurs. À ATD Quart Monde on défend l’idée de partir de la parole des plus démuni·es pour penser la société. Défendons aussi cette idée pour l’intelligence artificielle, et restons non seulement vigilant·es mais aussi acteurs et actrices. »

« C’est un formidable outil [l’intelligence artificielle] s’il est bien utilisé. Cela peut rendre d’énormes services.

Les ordinateurs deviennent indispensables, on ne peut plus s’en passer. Va-t-on laisser les machines prendre le dessus, doit-on en avoir peur ? Quand elles tombent en panne, tout s’arrête, nous devenons dépendants de l’ordinateur.
Peut-on se laisser gouverner par les machines ? Le problème c’est l’utilisation qu’on en fait. »

Les inconvénients de l’IA

« À la banque maintenant, il n’y a plus personne au guichet, c’est tout par des machines. Ça fout les boules. Les hommes ont été remplacés par des machines, mais les machines elles ne sont pas toujours correctes. Ça promet pour l’avenir. »

« Je n’ai pas de carte bleue, il faut que j’aille au guichet pour retirer auprès d’une machine, ce n’est pas évident. »

« Mon grand-père il a besoin d’aller à la mairie ; quand il y va, il n’y a personne, c’est avec un écran, il faut demander un ticket. Il faut que quelqu’un aille avec lui. »

« C’est ça qui est hyper flippant : comme tout se prend par internet, par la carte bleue tout ça, les gens qui n’ont pas accès à ça, ils sont coupés direct du grand réseau. Il y a une vraie fracture par rapport à ça. »

« Dans le cadre d’une mesure de protection, c’est la curatelle ou la tutelle qui décide que vous n’avez pas accès à… Si le curateur ou le tuteur décide que je ne peux pas avoir d’ordinateur car je n’en ai pas besoin, alors je n’en ai pas. Ça limite les horizons. »

Comment éviter l’IA ?

« C’est très compliqué aujourd’hui de s’échapper de cette intelligence artificielle, c’est : ou on part vivre dans la forêt ou on déconnecte complet tous nos appareils. Mais ceux qui veulent résister, c’est hyper compliqué parce qu’elle revient tout le temps, l’intelligence artificielle. C’est plutôt : comment la freiner ? »

« Moi je n’ai pas de téléphone, je m’en passe très bien. Il y en a, ils passent des heures devant leurs ordinateurs mais quand tu leur demandes d’écrire leurs noms et leurs prénoms, ils sont incapables. J’évite d’avoir affaire avec l’intelligence artificielle. »

Pourquoi faire une intelligence artificielle ?

« C’est de pire en pire, on n’a pas besoin de tout ça, on devrait laisser la nature faire. Pourquoi on fait tout ça ? »

L’impact sur les relations humaines

« On n’a jamais eu autant de moyens de communication, et rapides, mais on voit que les humains n’arrivent plus à se parler parfois maintenant. C’est ça l’ambivalence de notre époque. Prenez les transports : on est tous sur nos écrans. »

« Avant les gens lisaient, papotaient, il y avait du contact. »

« Chez moi, pour le repas du soir, quand on mange, personne ne prend son portable ou sa tablette. On mange, on discute. Avec les téléphones, j’ai vu qu’on ne se parle pas. »

« Le smartphone a bouleversé tous nos rapports. »

Les impacts écologiques

« Il y a des grottes humidifiées en Suède, ce sont des énormes disques durs qui protègent les données. Ça a des conséquences écologiques. »

1 Voir glossaire page 4.

2 Les instituts médico-éducatifs, ou IME, sont des établissements français qui accueillent les enfants et adolescents atteints de handicap mental, de

3 Voir glossaire page 4.

4 Voir glossaire page 4.

1 Voir glossaire page 4.

2 Les instituts médico-éducatifs, ou IME, sont des établissements français qui accueillent les enfants et adolescents atteints de handicap mental, de troubles moteurs et sensoriels, de troubles de la communication.

3 Voir glossaire page 4.

4 Voir glossaire page 4.

Michel Lansard

By this author

Hortense Dagnac-Lagrange

By this author

CC BY-NC-ND