Это также касается Gemini Мое мнение: 1 миллион контекстных окон ПЛОХО для многоповоротного чата, ОТЛИЧНО для одиночных запросов "Большой *релевантный* контекст, четкий прямой запрос" дает вам SOTA производительность из моделей последнего поколения Недостаточно оптимизаций инструментов для свежих контекстных окон, когда модели наиболее умные. Скоро…
Haider.
Haider.13 авг., 19:15
Извините, но контекстное окно в 1M звучит хорошо только на бумаге. На самом деле это больше похоже на контекстное окно в 400-500k. Эти рекламируемые 1M — самая большая ложь, которую я когда-либо видел. Модель начинает давать сбой задолго до этого момента — она не забывает, но начинает полностью выходить из строя.
567