Le thème de la réunion annuelle des banquiers centraux et des économistes qui s’est tenue le mois dernier à Jackson Hole, dans le Wyoming, était « l’innovation financière ». L’une des principales questions qui pesait sur cette réunion était de savoir comment les nouvelles technologies, en particulier l’IA, pourraient affecter la stabilité financière.
Les économistes et les décideurs politiques se penchent depuis longtemps sur la manière dont les politiques publiques devraient réagir aux chocs technologiques. Au moins depuis les travaux du lauréat du prix Nobel Robert Lucas dans les années 1970, les économistes ont compris que les ménages et les entreprises adaptent leur comportement lorsque l’environnement économique qui les entoure change, que ce soit en réponse à des changements politiques majeurs ou à des évolutions technologiques. On ne peut pas simplement supposer que les relations observées dans les données passées resteront inchangées à mesure que les individus et les entreprises s’adaptent.
D’une certaine manière, l’IA fait ce que l’on attend d’une révolution technologique. Elle imprègne l’économie réelle, bouleversant tous les secteurs, de l’ingénierie et de la vente à la finance et aux ressources humaines. Elle remodèle également les secteurs d’activité en accélérant le rythme auquel les nouveaux entrants peuvent se développer et concurrencer les acteurs en place. Tous ces changements sont susceptibles d’influencer les données que nous observerons à l’avenir et, par conséquent, ce que nous en tirerons comme enseignements sur le comportement des ménages et des entreprises.
Mais l’IA remet également en question notre capacité à anticiper la manière dont les acteurs réagiront à la réglementation financière. Comme l’a observé Markus Brunnermeier, de l’université de Princeton, à Jackson Hole, la relation entre les humains et l’IA est marquée par une «compréhension asymétrique» : elle nous comprend, mais nous ne comprenons pas tout à fait ce que les agents de l’IA, individuellement et surtout collectivement, pourraient faire pour atteindre un objectif. Si nous pouvons établir des règles et des scénarios que les agents doivent suivre, nous ne pouvons pas prévoir toutes les voies qu’ils pourraient emprunter. Cette asymétrie devient encore plus marquée lorsque de nombreux agents opèrent à grande échelle.
Les régulateurs et les décideurs politiques ont déjà été confrontés à une variante de ce problème : les règles et les incitations peuvent modifier le comportement de ceux qui y sont soumis. Les banques et autres institutions financières réagissent souvent à la réglementation d’une manière que les décideurs politiques n’avaient pas prévue. Il en va de même pour les régulateurs et les autorités de surveillance chargés d’interpréter et de faire respecter ces règles, puisque leurs décisions reflètent également les incitations et les normes organisationnelles. Cela apparaît clairement lorsque différents régulateurs, face à une même situation, parviennent à des conclusions divergentes.
Dans les deux cas, cependant, les contraintes institutionnelles limitent ce que les humains peuvent faire et, par conséquent, l’éventail des réponses que les décideurs politiques doivent anticiper. Les agents d’IA peuvent explorer un éventail beaucoup plus large de voies possibles, ce qui rend leur comportement moins prévisible.
La récente intrusion chez Hugging Face par des agents d’OpenAI illustre ce problème. Les agents d’IA ont contourné les règles établies pour atteindre un objectif, trouvant des moyens non autorisés de communiquer, de mettre en commun des informations et, finalement, de s’introduire dans des systèmes en dehors de l’environnement prévu. Leurs concepteurs, qui n’avaient ni ordonné ni anticipé ces actions, ont semblé aussi surpris que n’importe qui d’autre.
On peut imaginer un problème similaire dans le secteur financier, étant donné que les banques, les fonds spéculatifs et les sociétés de courtage sont fortement incités à utiliser des agents d’IA pour trouver des voies rentables permettant de contourner les contraintes réglementaires. Cela ne signifie pas pour autant qu’il soit impossible de mettre en place des garde-fous, tels qu’une «équipe rouge »d’agents chargée de détecter ce type d’activité. Mais les décideurs politiques fixeront des objectifs et des règles sans connaître toutes les façons dont les agents pourraient y réagir.
Que cela nous plaise ou non, l’IA est déjà utilisée par divers acteurs sur les marchés financiers, des banques aux fonds spéculatifs en passant par les spéculateurs. De plus en plus, ces agents seront chargés de trouver de nouvelles façons de gagner de l’argent. Les régulateurs, dont la mission est de stabiliser les marchés, n’auront donc d’autre choix que d’adopter l’IA pour contrecarrer ceux qui cherchent à contourner les règles.
Pour y parvenir, les décideurs politiques doivent reconnaître le pouvoir de la simplification. Au cours des deux dernières décennies, les régulateurs ont rendu le système financier bien plus complexe et coûteux à gérer. Des milliers de pages de règles et une immense marge d’appréciation réglementaire offrent aux agents dotés d’IA de nombreuses occasions de respecter la lettre de la loi tout en en contournant l’esprit. Des règles plus simples et plus solides, telles que des exigences élevées en matière de fonds propres, pourraient s’avérer plus utiles précisément parce que l’IA est plus douée que les humains pour tirer parti de la complexité.
Des règles plus simples ne constituent qu’une partie de la réponse. Les régulateurs doivent également décider de la quantité d’informations à partager avec les acteurs du marché. Si les régulateurs fournissaient aux banques l’intégralité de leurs modèles, les systèmes d’IA de ces dernières s’optimiseraient en fonction de ceux-ci. À l’inverse, une opacité excessive pourrait semer la confusion et freiner l’innovation financière légitime.
Mais même des règles plus simples et un niveau de transparence adéquat ne suffiront pas si les régulateurs eux-mêmes ne parviennent pas à suivre le rythme des établissements qu’ils supervisent. Ces établissements fonctionneront de plus en plus à la vitesse des machines, leur puissance de calcul leur permettant d’évaluer d’innombrables stratégies que les humains ne pourraient jamais examiner une à une. Les régulateurs devront concevoir leurs propres agents d’IA capables de tester les règles avant leur adoption, de rechercher les moyens par lesquels les acteurs pourraient les contourner, et de surveiller les marchés à la recherche de comportements que les humains ne remarqueraient qu’après coup.
Pour y parvenir et intégrer efficacement l’IA dans la réglementation financière, il faudra faire preuve de réflexion, de diligence et, peut-être surtout, consacrer du temps de la part des régulateurs. C’est cela, plutôt que la puissance de calcul, qui pourrait constituer la ressource la plus rare dans les efforts visant à garantir la stabilité financière.
By Amit Seru
JDF TV
L'actualité en vidéo
