Актуальні теми
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
Автономне управління пам'яттю в LLM-агентах
Агенти LLM мають труднощі з довгостроковими завданнями через перевантаження контексту.
Зі зростанням історії взаємодії обчислювальні витрати стрімко зростають, затримка зростає, а мислення погіршується через відволікання через нерелевантні минулі помилки.
Стандартний підхід — лише додавання: кожна думка, виклик інструменту та відповідь накопичуються назавжди. Це працює для коротких завдань, але гарантує невдачу для складного дослідження.
Це дослідження представляє Focus — архітектуру, орієнтовану на агенти, натхненну слизовою пліснявою (Physarum polycephalum). Біологічне розуміння: організми не зберігають ідеальних записів кожного руху через лабіринт. Вони зберігають отриману карту.
Focus дає агентам два нові примітиви: start_focus і complete_focus. Агент автономно вирішує, коли консолідувати знання у стійкий блок Знань, і активно обрізає сиру історію взаємодії. Жодних зовнішніх таймерів чи евристик, що змушують стискатися.
Вона декларує те, що ви досліджуєте, досліджує за стандартними інструментами, а потім консолідує шляхом узагальнення того, що було зроблено, чого було навчено та результат. Система додає це до постійного блоку Знань і видаляє все між контрольною точкою та поточним кроком.
Це перетворює монотонно зростаючий контекст на пилоподібний візерунок: ріст під час розвідки, колапс під час консолідації.
Оцінка на SWE-bench Lite з Claude Haiku 4.5 показує, що Focus досягає зменшення токенів на 22,7% (з 14,9 млн до 11,5 млн токенів), зберігаючи при цьому однакову точність (60% як для базового, так і для Focus). Окремі випадки показали заощадження до 57%.
Агресивне підштовхування має значення. Пасивне підказування приносило лише 6% економії. Чіткі інструкції для стиснення кожні 10-15 викликів інструментів із системними нагадуваннями збільшили стиснення з 2.0 до 6.0 на завдання.
Здатні моделі можуть автономно саморегулювати свій контекст, якщо їм надають відповідні інструменти та підказки, відкриваючи шляхи для агентних систем з урахуванням витрат без втрати продуктивності завдань.
Стаття:
Навчіться створювати ефективних агентів ШІ в нашій академії:

Найкращі
Рейтинг
Вибране
