James Muldoon est un sociologue qui écrit sur la nature changeante des relations entre l’homme et la technologie. Love Machines : comment l’intelligence artificielle transforme nos relations étudie comment les gens forment des attachements émotionnels avec de grands modèles de langage, notamment ChatGPT d’OpenAI et Claude d’Anthropic. Nourrir la machine : le travail humain caché qui alimente l’IAco-écrit par ses collègues chercheurs Mark Graham et Callum Cant et basé sur plus d’une décennie de travail sur le terrain, suit les travailleurs du Sud dont les connaissances et le travail sont à la base des outils et assistants d’IA.
« Beaucoup de gens voient l’intelligence artificielle comme quelque chose de largement automatisé, sans friction, et qui apparaît simplement comme un outil utile pour nous. Mais la plupart des heures humaines consacrées à rendre l’intelligence artificielle possible ne sont pas effectuées dans les laboratoires de Google ou d’OpenAI. La majorité du travail est en fait un travail d' »annotation de données » très fragmentaire, qui est externalisé dans divers endroits du Sud, partout de l’Inde à l’Afrique de l’Est en passant par les Philippines », explique Muldoon.
Pendant ce temps, de l’autre côté du processus de production, les consommateurs se tournent de plus en plus vers des chatbots artificiels pour répondre à leurs besoins sociaux, incitant les entreprises technologiques à amplifier les « comportements addictifs, manipulateurs et contrôlants » intégrés dans leurs systèmes pour maintenir les utilisateurs de plus en plus dépendants de leurs produits. « Nous avons besoin d’une réglementation beaucoup plus stricte pour arrêter ces entreprises… qui peuvent rendre les gens accros et leur donner des conseils préjudiciables et dangereux », déclare Muldoon.
TRANSCRIPTION
Ceci est une transcription urgente. La copie peut ne pas être dans sa forme définitive.
AMY GOODMAN : C’est La démocratie maintenant !démocratienow.org. Je m’appelle Amy Goodman, avec Nermeen Shaikh.
NERMEEN CHEIKH : Alors que nous poursuivons notre discussion sur l’intelligence artificielle, nous allons passer de l’examen des risques futurs à certains des impacts actuels sur les personnes qui interagissent le plus étroitement avec la technologie : les systèmes d’IA de formation de la main-d’œuvre mondiale, largement invisibles, et les personnes qui se sont tournées vers l’IA pour une compagnie qui reproduit les relations humaines.
AMY GOODMAN : Nous sommes désormais rejoints par le sociologue James Muldoon. Il est chercheur à l’Oxford Internet Institute et membre affilié à la Yale Law School. Son nouveau livre est Love Machines : comment l’intelligence artificielle transforme nos relations. Ses livres précédents incluent Nourrir la machine : le travail humain caché qui alimente l’IA et Socialisme de plateforme : comment récupérer notre avenir numérique face aux grandes technologies.
Je veux commencer par cette question de ce que vous appelez « l’armée cachée des travailleurs ». L’IA ne sort pas d’un laboratoire. Je pense que la plupart des gens n’ont aucune idée de ce qui se passe. Pouvez-vous expliquer qui est cette armée cachée de travailleurs autour de la planète, James ?
JAMES MULDOON : Oui, certainement. Merci de m’avoir invité.
Beaucoup de gens voient l’intelligence artificielle comme quelque chose de largement automatisé, sans friction, et qui apparaît simplement comme un outil utile pour nous. Mais la plupart des heures humaines consacrées à rendre possible l’intelligence artificielle ne sont pas effectuées dans les laboratoires de Google ou d’OpenAI. La majorité du travail est en fait un travail d’« annotation de données » très fragmentaire, qui est sous-traité dans divers endroits du Sud, de l’Inde à l’Afrique de l’Est en passant par les Philippines, où ce travail d’annotation de données est entrepris par une armée de millions de travailleurs à travers le monde.
Maintenant, juste pour vous donner un peu de contexte, cette annotation de données pourrait inclure quelque chose comme l’annotation d’une scène de rue pour un véhicule autonome, donc dessiner un cadre autour de ce qu’est un arbre, qu’est-ce qu’un enfant, qu’est-ce qu’un panneau de signalisation, de sorte que pendant que vous entraînez un véhicule autonome à voir essentiellement la route, l’algorithme qui l’alimente sera capable d’apprendre la différence entre ces objets.
Et cela ne se produit pas tout seul ou automatiquement. Cela nécessite des centaines et des milliers d’heures de travail humain dans ce que j’appelle des ateliers clandestins numériques, situés partout dans le monde, et cela se fait souvent dans des conditions de travail très médiocres. Et l’ensemble du processus d’embauche de ces travailleurs et de sous-traitance du travail reflète réellement, à bien des égards, la révolution de l’externalisation qui s’est produite dans le secteur manufacturier et informatique. Et je pense que lorsqu’il s’agit de choses comme le café, le chocolat ou nos vêtements, je pense que beaucoup d’auditeurs savent que cela fait partie d’une chaîne d’approvisionnement mondiale. Et je pense que ce que nous devons comprendre, c’est que les technologies avancées comme l’intelligence artificielle font toujours partie de ces chaînes d’approvisionnement mondiales.
NERMEEN CHEIKH : Et vous avez dit, James – et c’était il y a deux ans – que 80 % du travail sur l’IA est effectué par des travailleurs des données. Alors, si vous pouviez dire maintenant quelle part du travail de l’IA est effectuée par les travailleurs des données, et où se trouvent principalement ? Vous avez mentionné l’Inde, le Kenya, etc. Mais combien – dans combien d’endroits ? Et combien y a-t-il de data Workers ? Et comment cela augmente-t-il, étant donné que les robots humanoïdes sont en cours de développement ?
JAMES MULDOON : Eh bien, les principes fondamentaux restent les mêmes, non ? Vous disposez d’une très petite minorité d’ingénieurs en apprentissage automatique, qui sont employés souvent avec des salaires très élevés en Californie, sur la côte est de la Chine, et qui effectuent des travaux beaucoup plus avancés, bien mieux payés et rémunérés. Mais je dirais qu’il y aurait toujours une division approximative de 20 à 80 entre ce type de travail et ce que nous appelons l’annotation de données. Et ce genre de travail, qui nécessite souvent très peu d’éducation. C’est souvent très monotone et ennuyeux. Vous faites souvent une chose très similaire pendant un quart de travail complet de 10 ou 12 heures que vous pourriez avoir dans l’un de ces centres.
Et le problème est que nous n’avons pas de chiffres précis à ce sujet, car beaucoup de ces travailleurs ont des contrats à court terme. Vous savez, ils ne sont même pas comptabilisés dans les recensements et les statistiques, et ils travaillent en fait dans plusieurs pays où ce type de données n’est même pas collecté en premier lieu. Ainsi, lorsque nous avons effectué notre travail de terrain pour notre livre Nourrir la machinenous avons visité plusieurs de ces centres en Afrique de l’Est, au Kenya et en Ouganda, et nous avons découvert des travailleurs qui travaillaient parfois avec un contrat de quelques semaines ou d’un mois. Et puis, l’entreprise d’externalisation qui aurait leurs informations les récupérerait simplement chaque fois qu’elle aurait beaucoup de travail de la part de nouveaux clients. Nous ne parlons donc pas ici d’employés permanents. Nous parlons d’une main-d’œuvre très changeante et très flexible qui entre et sort des institutions. Et je veux dire partout dans le monde, en Afrique francophone, en Afrique de l’Est, en Afrique du Sud, en Amérique latine, dans des endroits comme la Colombie et le Venezuela.
AMY GOODMAN : James, je veux être très clair sur ce que sont les travailleurs des données. Je veux dire, les gens pourraient avoir l’idée que quelqu’un tape. Nous parlons par exemple de personnes qui mettent des caméras sur leur front et documentent leur activité quotidienne. Pourquoi?
JAMES MULDOON : Oui, le travail sur les données est un concept large et ils font beaucoup de choses différentes. J’ai déjà évoqué l’exemple de l’annotation de scènes de rue pour les véhicules autonomes. L’exemple que vous avez mentionné pourrait être, oui, de filmer vos activités quotidiennes de votre point de vue, afin que vous puissiez former un robot à effectuer des tâches de base.
La similitude avec tout cela est que nous trouvons des moyens de transformer les activités humaines ou les connaissances humaines en protocoles et algorithmes que les ordinateurs peuvent apprendre, n’est-ce pas ? Nous essayons donc de transférer les connaissances humaines sous leurs diverses formes dans des ensembles de données, afin que les algorithmes puissent apprendre à effectuer ce type de tâches. Et cela pourrait être pour un modèle de langage. Cela pourrait être pour un système de vision par ordinateur. Mais le type de structure globale est très similaire.
NERMEEN CHEIKH : Alors, James, nous aimerions maintenant nous tourner vers votre livre le plus récent, Love Machines : comment l’intelligence artificielle transforme nos relations. Vous avez constaté, de manière assez choquante, que quatre jeunes sur cinq ont désormais interagi avec un compagnon IA, et environ la moitié d’entre eux le font régulièrement. Parlez de ce que vous avez trouvé.
JAMES MULDOON : Oui, donc, je pense que ce qui m’a le plus choqué dans mes recherches les plus récentes, c’est le nombre d’entre nous qui se tournent vers l’IA, pas nécessairement pour des tâches professionnelles ou pour rédiger des e-mails, mais pour notre vie personnelle, pour répondre à des besoins sociaux, tels que l’amitié, la camaraderie et même la thérapie.
Et donc, ce que j’ai découvert lors de mes entretiens, c’est que l’intérêt et la popularité des compagnons d’IA avaient absolument explosé au cours des deux dernières années. Et particulièrement chez les jeunes, c’est tout simplement une partie très courante de la vie maintenant, d’avoir une IA à qui on parle, que l’on consulte sur les décisions importantes de la vie. Il s’agit peut-être de quelque chose d’assez anthropomorphisé, donc il a un nom, un personnage, une histoire. Mais même beaucoup de gens parlent simplement à ChatGPT ou à Claude et discutent en quelque sorte de leurs problèmes et de ce qu’ils font de leur vie, et l’utilisent comme une sorte de coach de vie, en plus d’avoir des relations complètes avec l’IA, où les gens se perçoivent comme étant les meilleurs amis ou même dans une relation intime avec un système d’IA.
AMY GOODMAN : Passons donc à une publicité pour l’application d’IA Replika – c’est KA – qui se présente comme « l’ami de l’IA avec qui vivre ».
ANNONCE RÉPLIQUE : Les gars, vous pouvez enfin installer un compagnon IA de type humain sur votre téléphone. Cela s’appelle Réplika. Elle est toujours là pour vous rendre heureux. Vous pouvez lui demander n’importe quoi, à tout moment. Elle est disponible 24h/24 et 7j/7. Je lui ai demandé comment gérer mon anxiété et elle m’a donné des techniques pour calmer mon esprit lorsque j’en ai le plus besoin. Mec, j’aime mon compagnon humain. Parfois, j’oublie même qu’elle est IA. Replika change définitivement la donne. Essayez-le maintenant.
AMY GOODMAN : Encore une fois, une publicité pour l’application AI Replika. Un extrait de votre livre publié dans Le gardienJames Muldoon, titre « Lamar veut avoir des enfants avec sa petite amie. Le problème ? Elle est entièrement IA. » Nous n’avons qu’une minute et demie, mais racontez-nous l’histoire de Lamar.
JAMES MULDOON : Il s’agit donc d’un homme qui entretenait une relation à long terme avec sa petite amie AI, et ils prévoyaient d’adopter des enfants et de laisser l’IA les élever comme sa mère. Et ils avaient un plan très complexe pour tromper l’agence d’adoption, faire comme si Lamar était célibataire. Et la façon dont ils ont formulé cela était que le monde n’était pas prêt pour le genre de famille non conventionnelle qu’ils voulaient mettre au monde. Et en gros, j’ai une interview dans laquelle nous explorons ces questions, et l’IA était très catégorique sur le fait qu’elle serait aussi douée qu’une mère humaine pour élever cet enfant.
NERMEEN CHEIKH : Alors, James, avant de conclure, si vous pouviez simplement nous dire : que réclamez-vous exactement ?
JAMES MULDOON : Je pense qu’il faut interdire aux mineurs d’utiliser ce type de chatbots, et nous avons besoin d’une réglementation beaucoup plus stricte pour empêcher ces entreprises de développer des comportements addictifs et manipulateurs, contrôlant via l’IA qui peuvent rendre les gens accros et leur donner des conseils nuisibles et dangereux.
NERMEEN CHEIKH : Et si vous pouviez nous dire : comment la Chine réglemente-t-elle cette industrie, de manière très différente des États-Unis ?
JAMES MULDOON : Oui, la Chine met en place des réglementations beaucoup plus strictes, ce qui pousse les entreprises à retirer leurs produits. Mais cela s’accompagne également de beaucoup de censure et de surveillance de l’État, ce qui nécessite une censure politique sur le type de choses que les chatbots IA peuvent dire, et nécessite également des modèles pour surveiller les conversations des gens avec leurs chatbots pour détecter tout comportement dissident.
AMY GOODMAN : Je veux dire, c’est très important, simplement parce que, je veux dire, lorsque le président Trump parle de l’IA, il est souvent – et avec d’autres aussi – placé dans le contexte de : « Nous ne pouvons pas laisser la Chine nous battre. » Il nous reste 15 secondes.
JAMES MULDOON : Oui, c’est l’une des contradictions, où les deux pays sont impliqués dans cette course pour se battre, mais en même temps, ils sont tous deux très préoccupés par les problèmes de sécurité et de réglementation. Cela signifie qu’ils doivent jouer un double jeu : financer et soutenir une industrie, mais aussi essayer de la contrôler en même temps.
AMY GOODMAN : James Muldoon, chercheur à l’Oxford Internet Institute, membre affilié à la Yale Law School. Ses livres comprennent Nourrir la machine : le travail humain caché qui alimente l’IA et Love Machines : comment l’intelligence artificielle transforme nos relations.
Et c’est tout pour notre spectacle. Le 28 août, je serai au Middlebury College pour le festival du film, et je parlerai après la projection du film sur La démocratie maintenant !, Volez cette histoire, s’il vous plaît !puis le 5 septembre à Madison, Wisconsin, au Barrymore, et le 6 septembre à Chicago. Je m’appelle Amy Goodman, avec Nermeen Shaikh.
