🗂️ Context engineering - по сути главный скилл для тех, кто строит AI-агентов.
Prompt engineering - это про то, как сформулировать один запрос к модели. Context engineering - про то, что вообще оказывается в контекстном окне к моменту, когда модель отвечает: системный промпт, история переписки, файлы, результаты вызовов инструментов, память. Слой, который собирает и фильтрует всю эту информацию перед каждым обращением к модели, и от его качества зависит результат не меньше, чем от самого промпта.
Казалось бы, раз у моделей контекстные окна по 200 тысяч токенов и больше, логично просто закидывать туда все - документацию, историю, результаты всех инструментов. На практике так хуже. Чем длиннее контекст, тем хуже модель удерживает внимание на действительно важных частях - нужная деталь теряется где-то в середине огромного текста среди шума. Каждый лишний токен - это еще и задержка с деньгами, а нерелевантная информация в контексте реально может сбить модель с толку, а не просто быть балластом.
Рабочий подход - раскрывать контекст постепенно, в зависимости от пути, по которому идет агент. Это похоже на огромное дерево, в котором легко потеряться, если пытаться охватить его целиком. Но муравей, который ползет по одной ветке в выбранном направлении, на каждом шаге видит ровно то, что нужно именно там - дополнительную развилку, лог, инструмент, который можно вызвать - и держит в голове пройденный путь, а не всю карту дерева. Агент работает так же: он не получает сразу всю документацию проекта, а делает вызов инструмента, читает конкретный файл, который нужен прямо сейчас, и в контексте остается только то, что относится к текущему шагу.
В агентных и мультиагентных системах это особенно критично. Если оркестратору в контекст попадает полный лог работы каждого саб-агента, он захлебывается в чужих деталях уже через пару шагов. Вместо этого саб-агент работает в своем изолированном контексте и возвращает наверх только выжимку - результат, а не весь процесс. Именно это позволяет системе масштабироваться: добавить десятого агента намного проще, когда каждый из них не тащит за собой историю всех остальных.
#ai@rvnikita_blog #llm@rvnikita_blog #agents@rvnikita_blog #prompting@rvnikita_blog