Systeem prompts raken verouderd! Hier is een tegenintuïtieve les uit het bouwen van echte Agents: Grote systeem prompts schrijven verbetert de prestaties van een Agent niet; het maakt het vaak slechter. Bijvoorbeeld, je voegt een regel toe over terugbetalingsbeleid. Dan een over toon. Dan nog een over wanneer te escaleren. Voor je het weet, heb je een handleiding van 2.000 woorden. Maar hier is wat we hebben geleerd: LLM's zijn extreem slecht in het omgaan hiermee. Recente onderzoeken bevestigen ook wat velen van ons ervaren. Er is een "Vloek van Instructies." Hoe meer regels je aan een prompt toevoegt, hoe slechter het model presteert bij het volgen van een enkele regel. Hier is een betere aanpak: contextueel voorwaardelijke richtlijnen. In plaats van één grote prompt, verdeel je instructies in modulaire stukken die alleen in de LLM worden geladen wanneer dat relevant is. ``` agent.create_guideline( condition="Klant vraagt naar terugbetalingen", action="Controleer eerst de orderstatus om te zien of deze in aanmerking komt", tools=[check_order_status], ) ``` Elke richtlijn heeft twee delen: - Voorwaarde: Wanneer wordt het geladen? - Actie: Wat moet de agent doen? De magie gebeurt achter de schermen. Wanneer een vraag binnenkomt, evalueert het systeem welke richtlijnen relevant zijn voor de huidige gesprekstoestand. ...