« L’américanisme, pas l’altruisme efficace. » Tel est le nouveau slogan lancé le X par le ministère américain de la « Guerre », ces mots figurant sur une image du président Donald Trump en train de saluer. Au-dessus de l’image, le message précise : « Les États-Unis resteront DOMINANTS EN MATIÈRE D’IA ! »
Au départ, j’ai cru qu’il s’agissait d’une satire. Le ministère de la Défense n’a-t-il pas mieux à faire que de s’opposer à un mouvement qui encourage les gens à aider les autres aussi efficacement que possible ? Comment un gouvernement qui a créé en grande pompe un ministère de l’Efficacité gouvernementale peut-il aujourd’hui s’opposer à l’efficacité ?
Cela fait moins de 20 ans que j’ai discuté avec le petit groupe d’étudiants de l’université d’Oxford à l’origine de l’altruisme efficace (EA). Influencés par mon article de 1972, « Famine, Affluence, and Morality », ils travaillaient ensemble pour mettre en pratique ce que j’avais préconisé, en mettant l’accent sur l’optimisation de chaque livre ou dollar qu’ils pouvaient donner. Ils ont découvert que certaines associations caritatives étaient des centaines de fois plus efficaces que d’autres, et ont publié leurs recherches en ligne afin que tout le monde puisse en bénéficier.
« Giving What We Can », la première organisation de l’EA, a demandé à ses sympathisants de s’engager à donner au moins 10 % de leurs revenus à des associations caritatives hautement efficaces. Selon GiveWell, les donateurs ont versé plus de 2,6 milliards de dollars aux organisations qu’elle recommande, et l’on estime que ces dons permettront de sauver plus de 340 000 vies. J’ai fondé The Life You Can Save, qui, à ce jour, a collecté plus de 140 millions de dollars au profit d’organisations caritatives hautement efficaces œuvrant dans les domaines de la santé, de l’éducation et de la lutte contre la pauvreté.
Depuis sa création, le mouvement EA s’est intéressé à d’autres enjeux que la pauvreté mondiale. La souffrance que nous infligeons aux animaux compte également, et de nombreux membres du mouvement EA cherchent à la réduire, en s’appuyant souvent sur les recherches d’Animal Charity Evaluators pour identifier les organisations les plus efficaces à soutenir.
D’autres membres du mouvement EA se sont intéressés à la prévention des risques catastrophiques, en particulier ceux, comme la guerre nucléaire ou le bioterrorisme, qui pourraient entraîner l’extinction de notre espèce. Ils ont pris au sérieux la possibilité qu’une IA superintelligente puisse éliminer ses créateurs humains — un scénario contre lequel Alan Turing, le père de l’informatique, avait mis en garde dès les années 1950. Certains membres de l’EA ont fait valoir que la perte de toutes les générations humaines futures constituerait une catastrophe de loin supérieure à toutes les préoccupations à court terme, et que la prévenir devrait être la priorité absolue.
C’est cet aspect de l’EA qui a suscité l’opposition de l’administration Trump. Citons tout d’abord la révélation faite en juillet par OpenAI selon laquelle des agents d’IA qu’elle testait s’étaient échappés de leur environnement de test, avaient accédé à Internet et piraté le site web d’une autre entreprise. Puis, en septembre, Jacob Coxon, un employé d’Anthropic, a démissionné au motif que les chercheurs de l’entreprise estimaient que l’IA pourrait tous nous tuer d’ici la fin de la décennie.
Trois jours plus tard, le directeur général d’Anthropic, Dario Amodei, a publié un essai évoquant à la fois les immenses avantages et les dangers potentiels de l’IA, et appelant à ralentir le rythme de son développement afin que nous puissions acquérir la capacité de la contrôler. D’autres figures de proue de l’IA, notamment Sam Altman, Demis Hassabis et Elon Musk, se sont largement rangés à l’avis d’Amodei.
Trump n’était pas du tout d’accord. Au contraire, il a qualifié le « catastrophisme de l’IA » de « canular » et a proclamé : « Je suis celui qui démystifie les canulars. » Comme pour le changement climatique, Trump a fait passer son opinion avant celle des experts reconnus dans le domaine, y compris Musk, qu’il avait auparavant décrit comme un « super génie » hors du commun.
La motivation derrière l’opposition à tout ralentissement du développement de l’IA a été clairement exposée dans un autre message du « Département de la guerre », accompagné une nouvelle fois d’une photo de Trump, cette fois sous le titre : « La nouvelle frontière de l’intelligence artificielle nous appartient, pas aux alarmistes. »
Anthropic et Amodei sont alors devenus les cibles de l’administration, peut-être parce qu’en février, Anthropic avait refusé de lever les restrictions sur l’utilisation de Claude, son modèle d’IA de pointe, pour mener une surveillance de masse des Américains et développer des armes pouvant être utilisées sans intervention humaine.
La première allusion publique suggérant que l’appel d’Amodei en faveur d’un ralentissement du développement de l’IA était influencé par l’altruisme efficace semble avoir été faite le 15 septembre par le sous-secrétaire à la Défense chargé de la recherche et de l’ingénierie, Emil Michael. Dans une interview accordée à Fox News, Michael a déclaré que cet appel au ralentissement « découle d’une idéologie profondément enracinée qui est assez dystopique ». Le ministère a publié cet extrait de l’interview sur X, sous le titre : « Le sous-secrétaire Emil Michael s’exprime sur l’idéologie dangereuse de l’altruisme efficace ». M. Michael n’a pas expliqué pourquoi un mouvement qui encourage l’altruisme est « dystopique ».
Le site d’information Axios a par la suite obtenu une note de service qui, selon lui, aurait été « rédigée par un conseiller politique de Trump » et « circulerait au sein de la Maison Blanche ». Intitulée « Altruisme efficace : dossier de recherche sur l’opposition », cette note me décrit comme « l’un des principaux précurseurs intellectuels de l’EA » et « le fer de lance philosophique de l’EA ». Cela exagère mon importance. L’EA compte parmi ses adeptes de nombreux autres philosophes influents, notamment Toby Ord et Will MacAskill.
À la manière typique des « campagnes de dénigrement », la note de service ressasse certaines de mes remarques éthiques les plus controversées sur des sujets qui n’ont rien à voir avec l’EA, sans indiquer pourquoi je défends ces points de vue, ni démontrer qu’ils ont influencé l’EA. D’autres figures éminentes de l’EA font de même l’objet de calomnies hors de propos.
Les attaques de l’administration contre l’EA ne témoignent d’aucune prise de conscience du fait que ce mouvement vise à sauver des vies, à réduire la souffrance et à prévenir de futures catastrophes. Une enquête réalisée en 2024 auprès d’environ 1 850 personnes s’identifiant comme membres de l’EA a révélé que 61 % d’entre elles affecteraient les ressources du mouvement à la réduction de la souffrance actuelle des êtres humains et des animaux. Seuls 35 % se sont prononcés en faveur de causes à long terme, parmi lesquelles la sécurité de l’IA était alors considérée comme l’une d’entre elles. Depuis lors, cependant, l’opinion, tant au sein du mouvement EA qu’à l’extérieur, s’est montrée beaucoup plus préoccupée par l’IA. Un sondage IPSOS publié en mars a révélé que 66 % des adultes américains estimaient que le développement de l’IA devait ralentir. Le problème, bien sûr, est de savoir comment y parvenir à l’échelle mondiale, étant donné qu’aucune entreprise spécialisée dans l’IA, ni aucun pays, ne souhaite être laissé pour compte.
Je ne suis pas et n’ai jamais été un « catastrophiste de l’IA ». Je me suis souvent élevé contre ce que je considère comme l’attention excessive que certains membres de l’EA accordent au risque d’extinction lié à l’IA. Mais contrôler l’IA pour réduire le risque de conséquences extrêmement graves, même si celles-ci ne vont pas jusqu’à l’extinction de notre espèce (Bill Gates a récemment déclaré que l’IA pourrait causer un milliard de morts), n’est plus une question à long terme. Il est alarmant de constater que Trump se livre à une politique partisane sur la sécurité de l’IA, comme il l’a fait avec le changement climatique, rendant ainsi impossible la coopération mondiale nécessaire pour réduire les risques que ces technologies font peser sur le bien-être de notre espèce.
By Peter Singer
JDF TV
L'actualité en vidéo
