Мастерство контекстной инженерии: ключевые уроки Manus для умных AI-агентов

Важность контекстной инженерии в AI-агентах

Создание эффективных AI-агентов требует не только мощной языковой модели. Manus подчеркивает, что проектирование и управление «контекстом» — информацией, которую AI использует для принятия решений — является критически важным. Контекстная инженерия влияет на скорость, стоимость, надежность и интеллект агента.

Выбор обучения в контексте вместо дообучения

Manus изначально выбрали обучение в контексте перед медленным поэтапным дообучением. Это позволяет быстро улучшать агент и выпускать изменения за часы, а не недели, что делает продукт адаптивным к меняющимся AI-возможностям. Однако путь оказался сложным, включающим несколько перестроек фреймворка в рамках экспериментального процесса «Stochastic Graduate Descent».

Ключевые уроки контекстной инженерии от Manus

1. Проектируйте вокруг KV-Cache

KV-cache критически важен для производительности, снижая задержки и затраты путем повторного использования идентичных префиксов контекста. Агенты добавляют действия и наблюдения в контекст, который становится длиннее вывода. Для максимизации попаданий в KV-cache нужно:

• Стабильные префиксы подсказок без динамических элементов, например, точных меток времени
• Контекст, в который только добавляют данные, без изменений прошлых действий или наблюдений
• Детеминированная сериализация (например, JSON) для предотвращения скрытых сбоев кеша
• Явные точки прерывания кеша, вставляемые вручную в некоторых фреймворках

2. Маскируйте, не удаляйте

С ростом числа инструментов у агента усложняется пространство действий. Динамическая загрузка инструментов может инвалидировать KV-cache и запутать модель. Manus использует контекстно-зависимый конечный автомат, который маскирует токены недоступных инструментов при декодировании, стабилизируя контекст и улучшая фокус.

3. Используйте файловую систему как контекст

Даже с большими окнами контекста (128K+ токенов) реальные наблюдения (веб-страницы, PDF) могут превышать лимиты, снижать производительность и увеличивать затраты. Manus рассматривает файловую систему как неограниченный внешний контекст, позволяя агенту читать и записывать файлы по требованию. Стратегии сжатия проектируются так, чтобы быть восстанавливаемыми, уменьшая длину контекста без потери данных.

4. Управляйте вниманием через повторение

Чтобы сохранять фокус на долгосрочных целях, Manus заставляет агента постоянно переписывать файл todo.md, повторяя задачи и прогресс в конце контекста. Это смещает внимание модели к глобальному плану, снижая проблемы с потерей цели без изменений архитектуры.

5. Оставляйте ошибки в контексте

Агенты ошибаются, и естественная реакция — удалять ошибки. Однако Manus обнаружил, что сохранение неудачных действий и наблюдений в контексте помогает модели обновлять внутренние убеждения, учиться на ошибках и восстанавливаться, что говорит о полноценном агентном поведении.

6. Избегайте слишком однородных few-shot примеров

Few-shot обучение может привести к имитации и повторению неэффективных действий. Manus использует контролируемое разнообразие, внося небольшие вариации в шаблоны сериализации, формулировки или форматирование, чтобы разрушить повторяющиеся паттерны и не дать агенту застрять в рутине.

Контекстная инженерия — важная область

Контекстная инженерия — новая, но важная дисциплина для AI-агентов. Она определяет, как агент управляет памятью, взаимодействует с окружением и учится на обратной связи, выходя за рамки мощности модели. Освоение этих принципов необходимо для создания надежных, масштабируемых и интеллектуальных AI-агентов.