Solicitările de sistem devin depășite! Iată o lecție contraintuitivă din construirea agenților din lumea reală: Scrierea de solicitări uriașe de sistem nu îmbunătățește performanța unui agent; adesea înrăutățește situația. De exemplu, adăugați o regulă despre politicile de rambursare. Apoi unul despre ton. Apoi altul despre când să escaladeze. În scurt timp, aveți un manual de instrucțiuni de 2.000 de cuvinte. Dar iată ce am învățat: LLM-urile sunt extrem de slabe în a gestiona acest lucru. Cercetările recente confirmă, de asemenea, ceea ce mulți dintre noi experimentăm. Există un "blestem al instrucțiunilor". Cu cât adăugați mai multe reguli la o solicitare, cu atât modelul are performanțe mai slabe la urmărirea oricăruia dintre acestea. Iată o abordare mai bună: linii directoare condiționate contextual. În loc de o solicitare uriașă, împărțiți instrucțiunile în bucăți modulare care se încarcă în LLM doar atunci când este relevant. ``` agent.create_guideline( condition="Clientul întreabă despre rambursări", action="Verificați mai întâi starea comenzii pentru a vedea dacă este eligibilă", instrumente=[check_order_status], ) ``` Fiecare ghid are două părți: - Stare: Când se încarcă? - Acțiune: Ce ar trebui să facă agentul? Magia se întâmplă în culise. Când sosește o interogare, sistemul evaluează ce linii directoare sunt relevante pentru starea curentă a conversației. ...