¡Las indicaciones del sistema se están volviendo obsoletas! Aquí hay una lección contraintuitiva de la creación de agentes del mundo real: Escribir indicaciones gigantes del sistema no mejora el rendimiento de un agente; a menudo lo empeora. Por ejemplo, agrega una regla sobre políticas de reembolso. Luego uno sobre el tono. Luego otro sobre cuándo escalar. En poco tiempo, tiene un manual de instrucciones de 2,000 palabras. Pero esto es lo que hemos aprendido: los LLM son extremadamente malos para manejar esto. Investigaciones recientes también confirman lo que muchos de nosotros experimentamos. Hay una "maldición de instrucciones". Cuantas más reglas agregue a un mensaje, peor será el rendimiento del modelo al seguir una sola. Aquí hay un mejor enfoque: pautas contextualmente condicionales. En lugar de un mensaje gigante, divida sus instrucciones en piezas modulares que solo se carguen en el LLM cuando sea relevante. ``` agent.create_guideline( condition="El cliente pregunta por los reembolsos", action="Verifique primero el estado del pedido para ver si es elegible", herramientas=[check_order_status], ) ``` Cada directriz tiene dos partes: - Condición: ¿Cuándo se carga? - Acción: ¿Qué debe hacer el agente? La magia ocurre detrás de escena. Cuando llega una consulta, el sistema evalúa qué directrices son relevantes para el estado actual de la conversación. ...