LIA permettra-t-elle ā tous les ętres humains de disposer dun assistant personnel ? Cest possible, mais il va dabord lui falloir apprendre ā penser autrement.
Pour comprendre pourquoi, imaginons une situation concrète. Nous sommes un samedi matin, et vous avez besoin d’aide pour organiser un week-end chargé. L’équipe de football de votre fille doit jouer un match de 15h30 à 16h30, mais votre fille est également invitée à l’anniversaire d’une amie de 15h00 à 17h00. Si vous demandez à ChatGPT ou à Claude de résoudre ce conflit, ces chatbots vous conseilleront probablement tous deux de privilégier le match de votre fille, car ses coéquipières comptent sur elle, et parce qu’il est important de respecter ses engagements. En fonction du temps disponible, ils vous suggéreront sans doute de passer quelques minutes à l’anniversaire, avant ou après le match.
Bien que ces réponses soient tout à fait acceptables, elles ne tiennent pas compte du prisme au travers duquel la plupart des individus prendraient une telle décision : les valeurs relationnelles. Plutôt que de nous proposer une réponse organisée sur la base de qui se dit sur Internet concernant nos valeurs, nos assistants d’IA vont devoir prendre en considération nos engagements relationnels, qui s’ancrent généralement dans l’identité, l’expérience et la culture personnelles.
Imaginons maintenant que vous choisissiez le match plutôt que la fête d’anniversaire, et que l’autre famille se sente vexée. Si vous posez à votre IA la question de savoir si vous avez pris la bonne décision, il y a de fortes chances que le chatbot vous réconforte davantage que si vous aviez posé cette question à un ami humain. Dans une récente étude publiée dans Science, des chercheurs de l’Université de Stanford ont mené trois expériences auprès de 2 405 participants, en utilisant 11 modèles d’IA de pointe. Les chercheurs ont constaté à la fois que les IA « approuvaient les actions des utilisateurs 49 % plus souvent que les êtres humains », et que « même une seule interaction avec une IA flatteuse réduisait la volonté des participants d’assumer leurs responsabilités et de résoudre les conflits interpersonnels ».
Dans notre scénario, la réaction humaine appropriée consisterait probablement à présenter des excuses aux parents de l’autre enfant, ce qui transformerait un moment de contrariété en une occasion de réconciliation et de lien positif. Or, l’IA – entraînée à être agréable et serviable – vous encouragerait davantage à éviter toute friction, tout malaise ou toute vulnérabilité, alors même que ce sont les dynamiques de ce type qui rendent in fine les relations significatives et durables.
Ces lacunes résident dans la conception des modèles actuels. Les grands modèles de langage, tels que ChatGPT et Claude, sont entraînés sur la base d’immenses quantités de textes issus d’Internet (livres numérisés, commentaires Reddit, dépôts de code), puis affinés par des exercices transactionnels dans lesquels le modèle est « récompensé » pour avoir apporté la réponse souhaitée à une requête. Ce fonctionnement est incroyablement efficace dans des domaines tels que la science, le droit ou encore le codage, au sein desquels le résultat du modèle peut être facilement confirmé ou comparé au texte original. L’intelligence relationnelle, par opposition, est une question d’entretien du lien humain au fil du temps.
L’intelligence relationnelle évalue et agit sur le lien entre deux personnes, une interaction qui est vécue émotionnellement, voire physiologiquement. Dans ce domaine, le simple fait d’écouter et de laisser de la place aux sentiments d’autrui peut être perçu comme plus précieux que la formulation de la solution la plus logique et la plus efficace à un problème perçu. Or, si nous n’enseignons pas aux LLM une autre forme de raisonnement, ils commenceront à relier les points des questions relationnelles de la même manière qu’ils appréhendent les schémas logistiques.
Bien entendu, l’acceptation voire la recherche de la confrontation, de l’inconfort et du doute dans les relations ne s’imposent pas non plus naturellement chez les êtres humains, bien que ces expériences puissent être synonymes d’apprentissage, de croissance et de lien plus profond. C’est la raison pour laquelle il a été observé que les participants à l’étude de Stanford préféraient voir leur jugement confirmé par l’IA. Notre propre aversion pour l’inconfort crée ainsi une désincitation de marché à améliorer l’intelligence relationnelle des modèles actuels.
Idéalement, les IA refuseraient de répondre aux questions nécessitant un raisonnement relationnel, laissant les humains compter les uns sur les autres pour résoudre les problèmes dont la résolution exige cette forme d’intelligence. Seulement voilà, le train est déjà parti. L’IA est aujourd’hui bien souvent sollicitée pour son oreille attentive face à des questions relationnelles complexes.
Nous disposons toutefois encore d’une opportunité de faire mieux. Nous pouvons bâtir une IA qui non seulement comprenne et respecte notre riche nature relationnelle, mais qui facilite également les liens humains en encourageant les individus à reconstruire les muscles relationnels qui se sont atrophiés ces dernières années.
Nous devrons pour cela établir la cartographie de notre univers relationnel, en saisissant la nature multidimensionnelle, empreinte de valeurs et longitudinale du raisonnement interpersonnel. Nous devrons également créer de nouveaux critères de référence pour mesurer les capacités des modèles existants, à l’instar des tests dont nous disposons déjà pour évaluer leurs compétences en mathématiques, en codage et en calcul. En évaluant les réponses des modèles de pointe à des scénarios tels que le dilemme du match de football et de l’anniversaire évoqué plus haut, nous pourrons déterminer le travail qu’il reste à accomplir, puis commencer à collecter les données nécessaires pour aider les modèles à comprendre les problèmes complexes de raisonnement relationnel.
L’objectif de la création d’une IA dotée d’une intelligence relationnelle ne consiste pas à remplacer le travail humain de relation ou d’accompagnement des personnes, mais plutôt à aider les êtres humains à raisonner sur des questions complexes fondées sur les valeurs. Les enjeux sont considérables. Sans ces améliorations, nous obtiendrons des machines formées sur de simples bribes de nos vies relationnelles extrêmement riches, qui nous guideront d’une manière susceptible de mettre en péril les liens humains qui nous unissent encore.
Des assistants omniprésents mais incapables de pleinement comprendre ce qui nous connecte les uns aux autres seraient inutiles, tandis que la préservation et le renforcement de nos innombrables liens pourraient constituer la clé d’une économie de l’IA florissante et créatrice d’emplois. Comme le fait valoir l’économiste Alex Imas, nous nous dirigeons potentiellement vers une « économie post-marchandise », dans laquelle une part croissante des dépenses pourrait être consacrée au « secteur relationnel ».
Dans ce scénario, la valeur résidera dans les biens et services qui placeront l’accent sur un lien humain positif. Il existera non seulement un secteur des soins à la personne, mais également une « économie des soins augmentée », bâtie autour de l’enseignement, de l’accompagnement, de la thérapie, du conseil et du coaching, caractérisée par un renouveau de la production artisanale. Si cet avenir de l’IA est possible, il vaut la peine que nous fournissions tous les efforts pour le concrétiser.
Par Anne-Marie Slaughter et Avni Patel Thompson
JDF TV
L'actualité en vidéo
