Les textes générés par l’IA sont devenus omniprésents depuis le lancement de ChatGPT en 2022, et les institutions peinent à suivre le rythme. Cette pression s’observe particulièrement au sein des tribunaux. Aux États-Unis, la proportion d’actions en justice fédérales intentées sans avocat est passée de 11 % en moyenne entre 2005 et 2022 à 16,8 % en 2025, les chercheurs attribuant cette hausse à l’avènement de l’IA. La même étude révèle que le pourcentage de plaintes civiles fédérales contenant du texte rédigé par une intelligence artificielle est passé de 1 % en 2023 à 18 % aujourd’hui.
Au mois de juillet, le Government Accountability Office (GAO) américain a mis en garde sur le risque de voir l’Internal Revenue Service (IRS) se retrouver submergé par des commentaires publics générés par l’IA concernant la réglementation fiscale. Les grands modèles de langage étant capables de générer des variations d’un même texte en nombre presque illimité, souligne l’institution, il est de plus en plus difficile de détecter des commentaires quasiment identiques.
Les organismes de financement de la recherche sont eux aussi débordés. Les demandes de subventions adressées à 12 organismes de financement au Royaume-Uni et en Europe ont augmenté de 57 % depuis 2022, alimentées par une vague de candidatures rédigées à l’aide de l’IA.
Face à ce déluge de textes générés par l’intelligence artificielle, les gouvernements ont commencé à automatiser leur partie du processus. Une enquête de l’OCDE menée auprès de 58 administrations fiscales nationales a révélé que 69 % d’entre elles utilisaient l’IA en 2023, contre seulement 9 % en 2016. À mesure que les capacités de l’IA ont progressé, ses utilisations se sont également diversifiées : les administrations fiscales s’appuient désormais sur cette technologie pour faciliter le travail d’analyse et la sélection des dossiers, pour améliorer les services aux contribuables et la correspondance grâce à des assistants virtuels, ainsi que pour automatiser les tâches répétitives et à volume élevé.
Une capacité accrue engendre toutefois d’autant plus de demande. Une administration publique capable de traiter deux fois plus de commentaires publics pourrait bientôt en recevoir deux fois plus. C’est ce que le chercheur en sécurité David Woods appelle la loi des systèmes sollicités à l’extrême : lorsqu’un système est poussé jusqu’aux limites de sa capacité, chaque amélioration est rapidement exploitée pour fonctionner à plus grande échelle. Woods associe ce concept à ce qu’il qualifie de « mythe du remplacement », cette idée selon laquelle l’automatisation ne ferait que remplacer les travailleurs humains, alors qu’elle modifie en réalité la nature du travail, et qu’elle en génère souvent davantage.
La supervision humaine ne peut en revanche pas être développée aussi facilement. La loi de l’Union européenne sur l’IA impose que les systèmes à haut risque soient conçus de manière à ce que des « personnes physiques » puissent les superviser efficacement. La législation européenne en matière de protection des données confère également aux individus le droit de ne pas être soumis à des décisions fondées exclusivement sur un traitement automatisé.
Les entreprises et les organisations ne peuvent pas non plus satisfaire à ces exigences en plaçant un humain à la toute fin du processus. Dans son arrêt SCHUFA de 2023, qui concernait les notations de crédit automatisées, la Cour de justice de l’Union européenne a estimé que l’essentiel consistait à déterminer si la décision finale dépendait de l’évaluation automatisée, même si un être humain conservait formellement le pouvoir de décision. Une signature qui se limite à ratifier une décision automatisée ne constitue pas un véritable contrôle.
Lorsque l’on combine ces deux facteurs, un goulot d’étranglement apparaît. Toutes les étapes en amont de la personne responsable s’accélèrent – recherche, tri, rédaction, vérification, acheminement – tandis que le travail de cette personne ne s’accélère pas. Le déluge de contenu généré par l’IA stimule la demande de jugement humain, mais la vitesse à laquelle les décisions peuvent être prises demeure inchangée.
Une récente étude d’ingénierie illustre ce problème. En modélisant l’octroi d’autorisations relatives aux réacteurs nucléaires, les auteurs ont comparé le processus manuel actuel à deux alternatives automatisées. Ils ont constaté que le délai prévu, même pour les systèmes automatisés les plus intégrés – environ 15 mois – ne changeait pas, même lorsque les capacités supposées de l’IA passaient d’une estimation prudente à une estimation optimiste. Le goulot d’étranglement résidait dans la file d’attente des évaluateurs chevronnés chargés des autorisations finales sur les dossiers les plus complexes, qui ne pouvaient en traiter qu’environ trois par jour. Autrement dit, la multiplication par deux des capacités des machines n’a guère contribué à accélérer le processus d’évaluation.
Les pouvoirs publics utilisent jusqu’à présent l’IA pour la recherche de documents, la synthèse de dossiers, le tri des commentaires et la rédaction de courriers. Ces tâches sont naturelles pour l’IA, puisqu’elles peuvent être automatisées sans confier de décisions importantes aux machines. Seulement voilà, lorsque la capacité de prise de décision ne progresse pas au même rythme, l’automatisation ne fait que déplacer le goulot d’étranglement, voire l’aggraver, plutôt que de le supprimer.
L’alternative ne consiste pas à laisser les machines décider – ce que la loi interdit dans certains cas, et ce qui est généralement peu judicieux – mais à les utiliser pour réduire la charge cognitive liée à la prise de décision, tout en confiant le jugement lui-même à un être humain.
Le modèle de la mémoire de travail du psychologue britannique Alan Baddeley fournit un cadre utile pour réfléchir à cette question. Certaines parties de notre mémoire de travail stockent et traitent des informations verbales et visuelles, tandis qu’une autre partie, que Baddeley appelle « l’exécutif central », dirige et répartit notre attention limitée. L’IA est d’ores et déjà capable de lire, d’organiser, de comparer et de présenter des informations, mais la décision de ce qui mérite notre attention et l’exercice de notre jugement demeurent des fonctions singulièrement humaines.
L’objectif de l’adoption de l’IA doit par conséquent consister à faciliter la prise de décision pour les responsables publics, en développant des outils qui identifient les compromis et les incertitudes, qui présentent de manière impartiale les arguments contradictoires, et qui reconnaissent leurs propres limites. Hélas, un tel système est plus difficile à mettre au point qu’un outil de synthèse, et constitue un argument de vente moins percutant, dans la mesure où ses résultats s’apparenteraient davantage à de meilleurs dossiers de synthèse qu’à un prétexte pour supprimer des services entiers.
Ce problème ne date pas d’hier. En 1983, la psychologue cognitive Lisanne Bainbridge mettait déjà en garde contre les « ironies de l’automatisation » : à mesure que les machines prenaient en charge les cas les plus faciles, les humains se retrouvaient confrontés aux plus difficiles. Lisanne Bainbridge s’intéressait à l’époque aux systèmes de contrôle des processus industriels, mais la même logique s’applique aujourd’hui à l’IA. Les administrations publiques mesurent le nombre de demandes traitées, de dossiers clos, les délais de réponse, et de plus en plus de tâches automatisées. Elles ne mesurent pas la charge de travail supplémentaire qui pèse sur les décideurs.
Plus les modèles d’IA pourront prendre en charge de travail, plus nombreuses seront les décisions que les êtres humains devront trancher. Si les gouvernements ne tiennent pas compte de ce déséquilibre, ils risquent de découvrir un jour qu’ils ont tout automatisé sans pour autant en tirer grand-chose.
Par Sami Mahroum
JDF TV
L'actualité en vidéo
