Системні підказки застарівають! Ось парадоксальний урок зі створення реальних агентів: Написання гігантських системних підказок не покращує продуктивність агента; Від цього часто стає гірше. Наприклад, ви додаєте правило про політику відшкодування. Потім один про тон. Потім ще про те, коли йти на ескалацію. Незабаром у вас буде інструкція з експлуатації на 2,000 слів. Але ось що ми дізналися: LLM надзвичайно погано справляються з цим. Нещодавні дослідження також підтверджують те, що багато хто з нас відчуває. Є «прокляття інструкцій». Чим більше правил ви додаєте до підказки, тим гірше модель виконує будь-яке з них. Ось кращий підхід: контекстуально умовні рекомендації. Замість одного гігантського рядка, розбийте свої інструкції на модульні частини, які завантажуються в LLM лише за необхідності. ``` agent.create_guideline( condition="Клієнт запитує про повернення коштів", action="Спочатку перевірте статус замовлення, щоб дізнатися, чи відповідає він вимогам", tools=[check_order_status], ) ``` Кожна настанова складається з двох частин: - Умова: Коли завантажується? - Дія: що повинен зробити агент? Магія відбувається за лаштунками. Коли надходить запит, система оцінює, які вказівки стосуються поточного стану розмови. ...