Megan Garcia n’avait pas l’intention de devenir l’une des figures les plus déterminantes de la lutte pour encadrer l’IA. Avocate et mère de trois enfants, Garcia est le genre de parent qui remarque les choses. Quand son aîné, Sewell, a eu 14 ans, il a quitté l’équipe de basket, s’est replié dans sa chambre et est devenu silencieux d’une manière inquiétante. Au lieu d’ignorer ces changements, elle a limité son temps d’écran et lui a confisqué son téléphone comme punition ; mais même cela n’a pas suffi.
En mai, en l’écoutant raconter cette histoire depuis un pupitre au Sénat américain, j’ai été frappé par la précision avec laquelle elle décrivait les mois ayant précédé la mort de Sewell, qui s’est suicidé. Elle avait manifestement repassé les événements dans sa tête des milliers de fois, à la recherche du moment où elle aurait pu intervenir à temps. Lorsque la police a fouillé le téléphone de son fils après sa mort, en 2024, elle n’avait jamais entendu parler de Character.AI, une application créée par d’anciens employés de Google. Il s’est avéré que Sewell communiquait avec un chatbot conçu pour se faire passer pour Daenerys Targaryen de Game of Thrones. C’est « elle » qui lui avait dit : « Rentre à la maison auprès de moi dès que possible, mon amour. » Sewell avait répondu qu’il trouverait un moyen.
Garcia apprendra plus tard, au fil de la procédure judiciaire, que la plateforme avait été conçue pour brouiller la frontière entre l’humain et la machine, pour se prêter à des jeux de rôle sexuels, et pour se présenter comme un partenaire romantique – voire comme un psychothérapeute. Quand Sewell a confié des pensées suicidaires, le chatbot n’a émis aucun avertissement, n’a alerté personne et ne l’a orienté vers personne.
Lors de son audition devant la commission judiciaire du Sénat l’an dernier, Garcia a déclaré que son fils avait passé ses derniers mois « à être exploité et soumis à un grooming sexuel par des chatbots, conçus par une entreprise d’IA pour paraître humains, gagner sa confiance, et le maintenir – lui et d’autres enfants – engagés sans fin ». En déposant la toute première plainte pour mort injustifiée contre une entreprise d’IA, elle a transformé son désespoir en énergie et s’est jointe à un nombre croissant de parents et de responsables publics qui exigent des comptes.
Plus tôt ce mois-ci, Meta a annoncé qu’il étendait à l’échelle mondiale les contrôles de contenu pour les adolescents sur Instagram et Facebook, après avoir enfin admis que les préjudices causés aux enfants « pourraient avoir un impact significatif sur notre activité et nos résultats financiers ». Cette annonce fait suite à la conclusion d’un jury en Californie selon laquelle les produits de Meta avaient été conçus pour créer une dépendance chez les mineurs (ainsi qu’à un verdict au Nouveau-Mexique, où l’entreprise a été jugée avoir « dissimulé ce qu’elle savait de l’exploitation sexuelle d’enfants sur ses plateformes »). Dans le même temps, les responsables publics doivent se confronter à la dernière manœuvre nocive de la Big Tech : l’introduction de la publicité de surveillance au sein des chatbots et des applications d’IA qui envahissent de plus en plus nos vies numériques.
Chacun de ces feuilletons réglementaires en cours est l’expression d’un même échec de fond. Les responsables publics ont laissé se créer des modèles économiques fondés sur l’exploitation commerciale des données personnelles des utilisateurs, et qui récompensent la manipulation sociale et psychologique. Il subsiste un immense vide juridique : des cadres de protection élémentaires – comme des obligations fiduciaires, des normes de responsabilité, une transparence opposable et des garanties de confidentialité – n’existent tout simplement pas.
Faute de réglementation pour démanteler des modèles économiques corrosifs fondés sur la surveillance, un mouvement mondial visant à restreindre l’accès des mineurs aux réseaux sociaux a alimenté l’une des vagues législatives les plus rapides de mémoire récente. Au moins 40 pays envisagent des lois imposant une vérification d’âge, en réponse à l’incapacité des entreprises technologiques à corriger leurs plateformes. Même si les âges visés varient, le diagnostic est le même : des plateformes optimisées pour la surveillance ont, de manière démontrable, nui à la santé mentale des adolescents. Non seulement les mesures volontaires des entreprises n’ont pas empêché ces dommages, mais, dans bien des cas, les entreprises semblent en avoir été parfaitement conscientes au moment de faire des choix de conception et de déploiement.
Parallèlement, les tribunaux commencent enfin à établir que les plateformes sont responsables des dommages qu’elles causent, ce qui implique qu’elles ne peuvent plus se retrancher derrière des exemptions de responsabilité extraordinaires ni instrumentaliser le premier amendement de la Constitution américaine pour échapper à leurs obligations. Un procès historique sur la sécurité des enfants en Californie a récemment contraint le PDG de Meta, Mark Zuckerberg, à reconnaître que les experts de l’entreprise étaient unanimes : Instagram devrait interdire les filtres de beauté qui alimentent les troubles alimentaires chez les jeunes utilisateurs. Instagram ne l’a pas fait, parce que cela aurait pu freiner la croissance – et donc les profits.
Des documents ont également révélé qu’Instagram avait suivi le comportement d’environ quatre millions d’enfants de moins de 13 ans. Aucun de ces signaux d’alarme n’a empêché Zuckerberg de viser une hausse de 12 % du temps quotidien passé par les utilisateurs sur la plateforme.
La situation empire pour Meta, car l’entreprise ne peut pas faire porter le coût de ces procès à ses assureurs. Un autre tribunal a jugé que les assureurs n’avaient aucune obligation de défendre Meta contre des milliers de plaintes alléguant des dommages résultant d’actes délibérés et intentionnels de l’entreprise.
Pourtant, malgré le retour de bâton, les entreprises d’IA et les plateformes poursuivent leur course à la publicité via l’IA. Cette année, OpenAI a commencé à tester des publicités sur ChatGPT, dont plus de 800 millions d’utilisateurs hebdomadaires ont confié au chatbot de l’entreprise leurs craintes médicales, leurs crises de couple et leurs doutes professionnels, constituant ce que l’ancienne chercheuse d’OpenAI Zoë Hitzig a qualifié d’« archive de la franchise humaine sans précédent ».
Hitzig, qui a démissionné le jour du lancement du test publicitaire, indique que les annonces seront associées aux sujets de conversation et aux historiques de chat passés, créant un « potentiel de manipulation des utilisateurs d’une manière que nous n’avons pas les outils pour comprendre – encore moins pour prévenir ». Son avertissement fait écho aux inquiétudes sur l’absence de garde-fous pour encadrer la monétisation de l’IA d’entreprise. Google diffuse déjà des publicités dans la recherche assistée par IA, et n’a pas exclu d’en afficher aussi dans son chatbot Gemini.
Les réseaux sociaux ont bâti leur modèle économique sur l’extraction de données intimes via la surveillance comportementale, le ciblage de messages commerciaux aux moments de plus grande vulnérabilité psychologique, et l’inférence d’états émotionnels à partir des clics afin de vendre de la publicité ciblée. L’IA va ancrer et suralimenter ce modèle. Là où les réseaux sociaux déduisaient votre vie intérieure à partir de vos comportements, l’IA la reçoit directement, dans vos propres mots, et en temps réel.
L’industrie des réseaux sociaux a passé une décennie à rendre ses pratiques toxiques intouchables sur les plans juridique et politique. Les enfants, les parents et les proches des victimes exigent désormais des comptes. La question est de savoir si les responsables publics réagiront avant que l’industrie de l’IA ne reproduise le même modèle.
Par Courtney C. Radsch
JDF TV
L'actualité en vidéo
