Les invites système deviennent obsolètes ! Voici une leçon contre-intuitive tirée de la construction d'agents dans le monde réel : Écrire de gigantesques invites système n'améliore pas la performance d'un agent ; cela la rend souvent pire. Par exemple, vous ajoutez une règle sur les politiques de remboursement. Puis une sur le ton. Puis une autre sur le moment d'escalader. Avant longtemps, vous avez un manuel d'instructions de 2 000 mots. Mais voici ce que nous avons appris : les LLMs sont extrêmement mauvais pour gérer cela. Des recherches récentes confirment également ce que beaucoup d'entre nous expérimentent. Il y a une "malédiction des instructions". Plus vous ajoutez de règles à une invite, moins le modèle réussit à suivre l'une d'entre elles. Voici une meilleure approche : des directives conditionnelles contextuelles. Au lieu d'une gigantesque invite, décomposez vos instructions en morceaux modulaires qui ne se chargent dans le LLM que lorsqu'ils sont pertinents. ``` agent.create_guideline( condition="Le client demande des remboursements", action="Vérifiez d'abord l'état de la commande pour voir si éligible", tools=[check_order_status], ) ``` Chaque directive a deux parties : - Condition : Quand est-ce qu'elle se charge ? - Action : Que doit faire l'agent ? La magie se produit en coulisses. Lorsqu'une requête arrive, le système évalue quelles directives sont pertinentes pour l'état actuel de la conversation. ...