Depuis quelque temps, les inquiétudes concernant l’évolution de l’intelligence artificielle ne viennent plus seulement de ses détracteurs. Elles viennent aussi de ceux qui la développent.
Il y a quelques jours, Jacob Coxon, chercheur ayant travaillé chez OpenAI puis Anthropic, a quitté son poste en lançant un avertissement particulièrement inquiétant sur les risques que pourraient représenter les IA les plus avancées dans les prochaines années. D’autres chercheurs expriment des préoccupations similaires et certains dirigeants du secteur parlent désormais ouvertement de ralentissement.
La situation est assez paradoxale. Imaginez plusieurs voitures lancées à pleine vitesse sur une autoroute qui se termine au bord d’un précipice. Tous les conducteurs reconnaissent qu’il faudrait peut-être ralentir, mais personne ne veut lever le pied pendant que les autres continuent d’accélérer.
C’est un peu la situation actuelle. OpenAI surveille Anthropic, Anthropic surveille OpenAI, Google et Meta poursuivent leurs développements. Les États-Unis regardent la Chine et la Chine regarde les États-Unis. À cela s’ajoutent les investissements, les marchés et une demande mondiale qui ne cesse de progresser. Personne ne veut prendre le risque de se laisser distancer.
Je ne fais pourtant pas partie de ceux qui souhaitent arrêter l’intelligence artificielle. Ce serait même assez paradoxal de ma part. Je l’utilise quotidiennement pour écrire, créer, apprendre, produire des images et des animations. Elle m’a même récemment accompagné dans le développement d’une application mobile alors que je n’étais pas développeur. Je mesure donc parfaitement ce qu’elle peut apporter.
Le problème n’est peut-être pas l’IA elle-même, mais la course à l’IA. À force de regarder qui est devant, on risque simplement d’oublier de regarder où tout le monde va.
Les scénarios les plus catastrophiques restent des hypothèses et les niveaux de risque avancés par certains chercheurs sont débattus. Personne ne peut aujourd’hui affirmer avec certitude ce que seront les capacités de l’IA dans cinq ou dix ans. Mais lorsque ceux qui participent directement à son développement commencent eux-mêmes à demander s’il ne faudrait pas ralentir, la question mérite au moins d’être posée.
Et puisqu’il ne suffit pas de critiquer, il faut aussi être capable de proposer.
Pourquoi ne pas définir collectivement des paliers d’évolution de l’IA associés à un calendrier ? Un principe qui pourrait rappeler, dans son rythme, la loi de Moore : tous les ans ou tous les deux ans, un nouveau niveau de capacités serait autorisé. Une entreprise pourrait atteindre le plafond avant les autres, mais pas le dépasser avant l’échéance suivante.
Cela n’empêcherait ni la recherche ni la concurrence. Entre deux paliers, les acteurs pourraient continuer à améliorer la sécurité, la fiabilité, les coûts, l’efficacité énergétique ou encore réduire les hallucinations. Il ne s’agirait pas d’arrêter l’IA, mais de décider collectivement de sa vitesse d’évolution.
Évidemment, une telle idée pose énormément de questions : qui définit les limites ? Comment mesure-t-on réellement les capacités d’une IA ? Comment faire respecter les mêmes règles partout dans le monde ? Je n’ai pas la prétention d’avoir toutes les réponses.
Mais si nous sommes capables de développer des intelligences artificielles toujours plus puissantes, nous devrions également être capables de réfléchir aux règles permettant de maîtriser leur rythme d’évolution.
À force de vouloir être le premier, encore faut-il savoir vers quoi nous courons.
Carlos Goncalves