Les premiers assistants de chat par IA étaient des outils produisant une réponse unique à une question. La nouvelle génération de systèmes dits « agents » peut, lorsqu'on lui confie un objectif, planifier les étapes nécessaires pour l'atteindre, utiliser des outils tels que la recherche sur le web, la lecture et l'écriture de fichiers, l'exécution de code ou la navigation sur un site web, et vérifier le résultat en réessayant si nécessaire.
Comment fonctionnent-ils ?
Un agent fonctionne généralement en boucle : il comprend la tâche, élabore un plan, utilise un outil (par exemple, en effectuant une recherche ou en ouvrant un fichier), évalue le résultat et décide de l'étape suivante. La boucle continue jusqu'à ce que la tâche soit terminée ou que l'approbation de l'utilisateur soit requise. Ce qu'un agent peut faire dépend des outils et des données auxquels il a eu accès.
Exemples d'utilisation
- Recherche : Analyser des dizaines de sources et préparer un rapport référencé.
- Travail de bureau : Collecter des informations provenant d'e-mails dans un tableau, planifier des réunions.
- Logiciel : Trouver et corriger un bogue dans une base de code, rédiger des tests.
- Tâches personnelles : Comparer des options de voyage, remplir des formulaires (avec approbation pour les étapes critiques telles que le paiement).
Risques
- Actions erronées : Un agent peut mal comprendre une instruction et envoyer un e-mail non souhaité ou supprimer un fichier.
- Injection de requêtes : Des instructions malveillantes cachées dans une page web ou un document peuvent tenter de détourner l'agent. C'est l'un des problèmes de sécurité les plus débattu concernant les agents.
- Permissions excessives : Un accès étendu à des zones sensibles telles que des comptes bancaires ou des systèmes d'entreprise comporte un risque de préjudice grave.
- Responsabilité : L'utilisateur ou l'organisation est en fin de compte responsable des actions entreprises par l'agent.
Principes pour une utilisation sûre
- Donner à l'agent uniquement les permissions minimales nécessaires à la tâche.
- Le configurer pour qu'il demande une approbation avant toute étape irréversible telle qu'un virement bancaire, un achat, l'envoi d'un e-mail et une suppression.
- Examiner le journal des actions effectuées par l'agent.
- Faire preuve de prudence lorsqu'on laisse un agent traiter des documents et des sites provenant de sources inconnues.
La différence entre un agent IA et l'automatisation classique
Les outils d'automatisation classiques utilisés en entreprise depuis des années fonctionnent selon des règles préétablies, telles que « Si une facture arrive dans ce dossier, écrivez le montant dans le tableur. » Lorsqu'ils rencontrent une situation hors de ces règles, ils s'arrêtent généralement. Les agents IA, en revanche, reçoivent un objectif en langage naturel, planifient eux-mêmes les étapes et peuvent essayer un autre chemin en cas d'imprévu.
- Flexibilité : Un agent peut essayer de comprendre un document dont le format a changé ; un outil basé sur des règles ne le peut pas.
- Prédictibilité : L'automatisation classique donne toujours le même résultat ; le comportement d'un agent peut varier en fonction de l'entrée et il peut commettre des erreurs.
- Supervision : C'est pourquoi il est encore plus important avec les agents de conserver une trace de chaque étape et d'exiger l'approbation humaine pour les actions importantes.
Questions à se poser avant d'utiliser un agent
La communauté de sécurité OWASP inclut « l'agence excessive » (excessive agency) dans sa liste des risques les plus importants dans les applications de grands modèles de langage : si un agent se voit accorder plus de permissions que nécessaire, une instruction mal comprise ou un contenu malveillant peut causer de réels dommages.
C'est pourquoi il est utile de se poser les questions suivantes avant de commencer à utiliser un agent : Quels comptes et fichiers peut-il consulter ? Les actions irréversibles telles que l'envoi d'argent, la suppression ou l'envoi d'e-mails nécessitent-elles mon approbation ? Puis-je voir chaque étape qu'il a franchie par la suite ? Le National Institute of Standards and Technology (NIST) américain, dans son cadre de gestion des risques liés à l'IA, recommande de la même manière une surveillance continue des effets des systèmes d'IA et des responsabilités clairement définies.
Les fonctionnalités, forfaits et prix des outils d'IA changent souvent. Consultez toujours la page officielle de l'outil pour obtenir des informations actualisées.
Foire aux questions
Quelle est la différence entre un agent et un assistant de chat ?
Un assistant de chat produit principalement des réponses ; un agent entreprend des actions en utilisant des outils pour atteindre un objectif. De nombreux assistants incluant désormais des fonctionnalités d'agent, la frontière entre eux est de plus en plus floue.
Sources et lectures complémentaires
- OWASP, « Top 10 for LLM Applications » (injection de requêtes et agence excessive).
- NIST, « AI Risk Management Framework: Generative AI Profile » (NIST AI 600-1), 2024.
- Shunyu Yao et al., « ReAct: Synergizing Reasoning and Acting in Language Models », ICLR, 2023.
- OWASP – Top 10 for LLM Applications 2025 (Excessive Agency)
- NIST – AI Risk Management Framework (AI RMF 1.0), 2023
Laisser un commentaire
Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont marqués *