Lintelligence artificielle est en train de transformer notre faįon de communiquer, daccéder ā linformation et de travailler, la répartition des revenus et des statuts sociaux, jusquā la maničre dont nous menons la guerre. Pourtant, le débat public reste étroitement centré sur la concurrence entre les laboratoires dIA ou sur des discussions abstraites concernant les capacités de cette technologie. Presque personne ne se demande ā quoi lIA devrait servir, ni si notre état desprit actuel, nos institutions et nos mécanismes de contrôle sont capables dorienter cette technologie vers des améliorations généralisées du bien-ętre humain.
Il était donc rafraîchissant de voir le pape Léon XIV se prononcer sur la question dans sa première encyclique, qui décrit la trajectoire actuelle de l’IA comme une menace profonde pour la dignité humaine. En tant qu’économiste qui soutient depuis longtemps que les résultats induits par la technologie relèvent d’un choix et non du destin, je salue son intervention.
Léon a une longueur d’avance sur la plupart des commentateurs en soulignant que « la technologie n’est jamais neutre, car elle prend les caractéristiques de ceux qui la conçoivent, la financent, la réglementent et l’utilisent ». Et pourtant, je crains que même lui ne soit pas allé assez loin sur la question la plus cruciale : à quoi l’IA devrait-elle être conçue pour servir ?
Comme Simon Johnson et moi-même le soulignons dans notre livre Power and Progress: Our Thousand-Year Struggle over Technology and Prosperity, une technologie comme l’IA peut emprunter de multiples voies, et chacune a des implications profondes pour la société. Par exemple, le pape a raison de remettre en question la trajectoire actuelle de l’IA dans le domaine de la guerre et de l’application de la loi. Ce qui était tabou il y a seulement quelques années – la surveillance de masse pilotée par l’IA, les algorithmes sélectionnant des cibles à abattre – est devenu monnaie courante.
Alors que de nombreux acteurs de la Silicon Valley exhortent les États-Unis à renforcer leur puissance dure par le biais d’un nouveau complexe militaro-algorithmique, Léon met en garde : « Toute technologie qui facilite les attaques sans voir le visage des êtres humains abaisse le seuil moral du conflit. » Le Pape appelle alors au « désarmement de l’IA » pour la libérer « de la mentalité de la compétition “armée”, qui aujourd’hui ne se limite pas simplement au contexte militaire, mais est aussi un phénomène économique et cognitif ».
Une sagesse plus fondamentale sous-tend ces préoccupations spécifiques : le progrès technologique n’est pas nécessairement un progrès moral. Ce n’est pas parce qu’une chose est techniquement faisable qu’elle est bonne pour l’humanité. Le caractère souhaitable d’une technologie dépend de ceux qui la contrôlent et de l’idéologie et des intérêts qui les guident.
Léon fait allusion à ce que je considère comme le risque le plus immédiat, à savoir que « si l’IA promet de stimuler la productivité en prenant en charge les tâches routinières, elle oblige souvent les travailleurs à s’adapter à la vitesse et aux exigences des machines, plutôt que de concevoir des machines pour qu’elles travaillent avec ceux qui travaillent ». Le Pape s’abstient toutefois de remettre en question la philosophie dominante en matière de conception de l’IA. L’approche de l’ensemble du secteur de l’IA est centrée sur l’imitation des capacités humaines et l’automatisation des tâches humaines, dans le but de créer une « intelligence artificielle générale » capable de faire tout ce qu’une personne peut faire.
Cette philosophie repose sur l’hypothèse erronée selon laquelle l’intelligence artificielle et l’intelligence humaine sont fondamentalement similaires. Les humains apprennent « du premier coup ». Nous formulons des hypothèses à partir de quelques exemples, simulons des possibilités dans notre esprit et affinons notre compréhension à travers un processus social d’essais et d’erreurs. Ainsi, les enfants apprennent le langage en imitant quelques mots, en généralisant et en ajustant leur discours en fonction de la façon dont les autres réagissent. Nous ne sommes pas très doués pour absorber des volumes massifs d’informations ou pour passer au crible des données non structurées à la recherche de schémas pertinents.
En revanche, les modèles d’IA s’épanouissent grâce à d’énormes ensembles de données d’entraînement et excellent dans la reconnaissance de modèles à grande échelle, mais ils n’ont pas encore fait preuve d’une véritable créativité. Ils n’ont aucune expérience de l’incarnation dans le monde réel, ni aucune capacité d’apprentissage par essais et erreurs à travers des interactions avec le monde physique et social (sauf de manière limitée lorsqu’il existe des récompenses claires pour l’apprentissage par renforcement dans des domaines spécifiques).
Lorsque deux choses sont différentes, on ne devrait pas — et on ne peut généralement pas — utiliser l’une pour imiter l’autre. Les résultats seraient sous-optimaux. Cela aurait été une erreur colossale si Phil Jackson, le légendaire entraîneur des Chicago Bulls dans les années 1990, avait poussé Michael Jordan à imiter tout ce que faisaient Scottie Pippen et Dennis Rodman. L’équipe a enchaîné les titres de champion précisément parce que ces joueurs travaillaient ensemble et se complétaient mutuellement.
Il en va de même pour l’IA et les compétences humaines. Utiliser l’IA pour faire ce que les humains ne peuvent pas faire, afin que les humains puissent élargir leur champ d’action, est plus productif que l’imitation. Dans un scénario futur où l’IA augmenterait, plutôt que de remplacer, les capacités humaines, les électriciens seraient aidés par des diagnostics basés sur l’IA, les infirmières consulteraient l’IA pour interpréter les symptômes, et les enseignants pourraient utiliser l’IA pour personnaliser l’enseignement de chaque élève.
Les optimistes et les experts du secteur pourraient rétorquer qu’une IA axée sur l’automatisation peut tout de même profiter à tout le monde, à condition que les politiques de redistribution suivent le rythme. Cet argument a pourtant fait long feu. Quatre décennies d’automatisation numérique ont déjà concentré les gains au sommet de la pyramide, vidé de sa substance l’emploi moyennement qualifié et produit une croissance globale de la productivité décevante. Il y a peu de raisons de s’attendre à ce qu’une vague d’automatisation encore plus puissante, déployée par un secteur encore plus concentré, aboutisse à un résultat différent.
Les enjeux mondiaux sont ainsi encore plus importants qu’aux États-Unis. Pour des milliards de personnes dans les pays en développement, où un emploi décent est la seule voie fiable pour sortir de la pauvreté, un programme d’IA centré sur l’automatisation est la recette du désastre. Nous pouvons et devons exiger une conception différente.
Le plus grand défaut de l’industrie actuelle de l’IA est peut-être son refus de reconnaître tout cela. La poignée de personnes qui déchaînent cette technologie sur le monde est guidée par une idéologie de contrôle (sur l’humanité) et par la conviction que les machines sont systématiquement meilleures que les humains.
Léon a raison d’appeler à une clarté morale et à un débat sérieux à l’échelle de la société. La conversation doit aller au-delà des exhortations pour aboutir à des choix concrets : des mesures antitrust contre les plateformes dominantes, des investissements publics dans une IA complémentaire à l’humain, la réglementation de la surveillance et des armes autonomes, ainsi que des droits significatifs pour les travailleurs et les citoyens sur les données dont dépendent ces systèmes.
L'intervention de Léon rend une telle réponse un peu plus probable qu'auparavant. Nous devons pourtant tous, nous aussi, défendre l'humanité.
Par Daron Acemoglu
JDF TV
L'actualité en vidéo
