Série : Le logiciel qui agit · Partie 2 sur 12
Un agent est un modèle plus un harnais
Dans la première partie, on a dit que des agents font le travail à notre place. Ouvrons maintenant le capot pour voir de quoi un agent est fait.
Commençons par le modèle.
Le modèle
Le modèle est un programme entraîné sur d'énormes quantités de texte : il reçoit du texte et il en produit la suite. Il ne fait rien d'autre, puisqu'il n'a ni mains, ni accès à tes fichiers.
Imagine un expert très cultivé, enfermé dans une pièce, qui ne peut que lire les messages glissés sous la porte et répondre par écrit.
Alors, comment un modèle peut-il agir ? Par des outils.
Les outils
Un outil est une fonction avec un nom, une description en clair, et la liste de ce qu'il faut lui fournir. Par exemple, l'outil « lire un fichier » a besoin du nom du fichier.
Le modèle n'exécute jamais l'outil lui-même : il répond par une demande, comme « lis-moi le fichier notes.txt ». Notre expert écrit sa demande sur un papier, et quelqu'un, dehors, le fait pour lui.
Ce quelqu'un dehors, c'est le harnais.
Le harnais
Le harnais est le programme autour du modèle. Il lui présente les outils disponibles, exécute ses demandes après vérification, lui renvoie les résultats et décide quand s'arrêter.
C'est lui qui porte la fiabilité : il arrive qu'un modèle se trompe, mais le harnais ne doit pas laisser passer l'erreur.
Assemblons les pièces.
La boucle, pas à pas
Une employée écrit à son assistant : « montre-moi mes tâches de la semaine, et prépare un brouillon de demande de congé pour vendredi ».
- Employée, pose sa demande. « Montre-moi mes tâches de la semaine, et prépare un brouillon de congé pour vendredi. »
- Modèle, demande un outil. Comme il ne connaît pas les tâches, il répond par une demande : « appelle l'outil qui liste les tâches de cette personne ».
- Harnais, vérifie, puis exécute. Il vérifie que l'outil est dans la liste permise et que cette personne a le droit de voir ces tâches, puis il exécute l'appel et le note dans le journal.
- Application, renvoie le résultat. Elle renvoie sept tâches pour cette semaine. Le harnais ajoute la liste à la conversation, et le modèle la lit.
- Modèle, demande un second outil. Il demande maintenant l'outil qui prépare un brouillon de congé pour vendredi.
- Harnais, applique la règle. Préparer un brouillon est permis, mais envoyer la demande ne l'est pas : l'employée confirmera elle-même.
- Modèle, répond. Il résume les sept tâches et annonce qu'un brouillon de congé attend la confirmation de l'employée.
Voilà la boucle d'un agent : le modèle demande, le harnais vérifie et exécute, le résultat revient, et on recommence.
La boucle s'arrête quand le modèle répond sans demander d'outil, parce qu'il considère qu'il a fini. Elle s'arrête aussi quand un plafond est atteint : un nombre de tours, une quantité de texte ou un coût. Dans mon premier harnais, les plafonds par défaut sont de huit tours, cinquante mille jetons et cinquante centimes.
Au passage, un jeton est un morceau de mot : l'unité dans laquelle on compte ce que le modèle lit, ce qu'il écrit, et donc ce qu'il coûte.
Voyons maintenant ce que donne une vraie exécution.
La boucle tourne, mais le résultat est faux
Cette exécution a été faite avec un petit modèle qui tourne sur mon propre serveur. La tâche consistait à lire une note et à écrire un résumé en trois points.
Au premier tour, le modèle se trompe d'outil. L'erreur n'arrête pas l'agent : elle lui est renvoyée comme un résultat pour qu'il se corrige, et il lit alors la note.
Au deuxième tour, il écrit le résumé. Sauf que ce n'est pas un résumé en trois points, mais cinq phrases de la note recopiées presque mot pour mot.
Au troisième tour, il annonce que le résumé a été réalisé avec succès, et la boucle s'arrête.
Retiens cette scène : la boucle a parfaitement fonctionné, mais le résultat est faux et le modèle affirme le contraire. C'est pour cette raison qu'il faut vérifier le résultat après coup, et on y revient dans la partie 6.
Pour finir, sur quoi le harnais a-t-il la main ?
Six choses que le harnais décide
| Dans le harnais | Ce que ça décide |
|---|---|
| La liste des outils | Ce que l'agent peut demander : un outil absent ne peut pas être appelé. |
| Les permissions | Au nom de qui l'agent agit, et avec quels droits. |
| Le bac à sable | Où l'agent travaille : quel dossier, quel réseau. |
| Les plafonds | Combien de tours, de jetons et d'argent avant l'arrêt. |
| Le journal | La trace de ce que l'agent a vu et fait. |
| Les vérifications | Les contrôles qui passent après lui. |
On veut empêcher un agent de supprimer des données. Qu'est-ce qui marche à coup sûr ?
Écrire « ne supprime jamais rien » dans ses instructions
Pas tout à fait. Le modèle lit la règle, mais il peut l'ignorer ou mal la comprendre.
Ne pas lui donner d'outil de suppression
Exact. Un outil qui n'existe pas ne peut pas être appelé.
Prendre un modèle plus puissant
Pas tout à fait. Un meilleur modèle se trompe moins souvent, mais c'est toujours le harnais qui décide de ce qui est possible.
Ce qu'il faut retenir
- Le modèle ne fait que lire et proposer : il n'agit qu'en demandant un outil.
- Le harnais vérifie, exécute, renvoie le résultat, et s'arrête sur des plafonds de tours, de jetons et de coût.
- Une boucle qui tourne ne prouve pas que le résultat est bon : il faut aussi le vérifier après coup.
Dans la partie suivante, on verra comment ne dépendre d'aucun fournisseur de modèles.
Architecture · Publié le 17 novembre 2026Read in English