Les systèmes agentiques : les défis derrière l'engouement

Les systèmes agentiques connaissent une vogue extraordinaire qui masque parfois leurs limites et les défis qu'ils soulèvent.

Les systèmes agentiques : les défis derrière l'engouement

Les agents d’intelligence artificielle sont sur toutes les lèvres. À en croire les commentateurs les plus enthousiastes, ils pourraient même représenter un pas décisif vers la réalisation d’un vieux rêve : l’émergence de systèmes autonomes dont la capacité à raisonner égalerait celle de leurs concepteurs. Une analyse critique appelle cependant à plus de modération. Il semble en effet que l’architecture des systèmes agentiques - tant par ses propriétés que par les composants qu’elle mobilise - pourrait expliquer la limite que la performance de ces derniers semble destinée à atteindre. 

Quelques éléments de vocabulaire 

Nous parlerons de systèmes agentiques pour désigner des systèmes à l’architecture modulaire mettant en œuvre des agents d’intelligence artificielle. Il n'est pas rare que ces expressions soient employées de façon interchangeable, confondant la partie pour le tout ; nous profitons donc de ces lignes pour les distinguer clairement. 

Les LLM : l’horizon indépassable des probabilités  

Le fonctionnement des systèmes agentiques est régi par un dialogue permanent entre deux LLM. D’un côté, l’orchestrateur ; son rôle est de définir la séquence des tâches à effectuer pour réaliser l’objectif fixé par l’utilisateur. De l’autre, l’agent ; son rôle est d’attribuer ces tâches aux outils du système les plus à mêmes de les mener à bien. 

Les performances des systèmes agentiques sont donc largement tributaires de celles de l’orchestrateur qui en définit la logique de contrôle. Or, on observe que pour les tâches les plus complexes, les résultats sont loin d’être satisfaisants. Ceci s’explique par l’incapacité établie des LLM à raisonner : leur fonctionnement est stochastique et auto-régressif. En d’autres termes, ils génèrent du contenu sur la base du contenu déjà généré, et ce, de façon probabiliste. Malheureusement, ce comportement ne peut être corrigé, il est inscrit, pour ainsi dire, dans la technologie même. Il existe bien des mécanismes visant à encadrer le travail de l’orchestrateur - le human-in-the-loop en fait partie - mais ils ne laissent pas présager une amélioration significative des performances des systèmes agentiques. Pire, ils égratignent leur image en revenant sur l’une des caractéristiques fondamentales à l’origine de leur popularité actuelle : leur autonomie. 

La modularité : le défi des systèmes complexes

Après leur autonomie, c’est la modularité des systèmes agentiques qu’il convient d’aborder. À première vue, elle serait une véritable panacée : plus les problèmes à traiter sont complexes, plus le système se voit enrichi d'outils et ce, sur le mode du plug and play. La réalité est tout autre. La multiplication des outils nécessaires à la résolution de problèmes complexes engendre en effet de nombreux défis. On peut en citer deux. Tout d’abord, la construction de l’architecture elle-même. Bien sûr, l’architecte s’appuie sur des frameworks existants. Cependant, il doit intégrer très tôt à sa réflexion l'interdépendance des composants utilisés, chacun régi par une logique et des protocoles propres, multipliant les points de friction potentiels au sein du système. Ensuite, une fois l’architecture formelle établie, il reste encore un enjeu de taille : sa mise en oeuvre et son intégration dans le système d’information. Cela nécessite une véritable réflexion autour des questions de compatibilité et d'interopérabilité des nouveaux composants agentiques avec l'infrastructure existante. Les échelles sont donc différentes mais les défis restent les mêmes.

Ainsi, les éléments qui font la force des systèmes agentiques aujourd’hui - le recours aux LLM et la modularité de leur architecture - pourraient, à terme, expliquer la limite que leur performance semble destinée à atteindre. On goûtera d’autant plus l’ironie de la situation que l'intelligence artificielle n'est pas capable de la comprendre.

Génial ! Vous vous êtes inscrit avec succès.

Bienvenue de retour ! Vous vous êtes connecté avec succès.

Vous êtes abonné avec succès à WENVISION.

Succès ! Vérifiez votre e-mail pour obtenir le lien magique de connexion.

Succès ! Vos informations de facturation ont été mises à jour.

Votre facturation n'a pas été mise à jour.