Чем глубже я погружаюсь в разработку AI агентов, тем больше возникает вопросов, а так же понимания, что все далеко не так просто и легко как казалось в самом начале.
В целом AI агента можно рассматривать как просто работника в офисе у которого есть профессия, круг обязанностей, должностные инструкции и доступы.
Вопрос с которым я пытаюсь сейчас разобраться - на сколько автономны должны быть агенты. Должны ли они работать в Apple way (когда тебе дается только то, что тебе нужно и ничего больше прям как в корпорации Apple) или агент должен иметь доступ к распределенной памяти где хранится и переписка с пользователем и результат работы предыдущих агентов.
С одной стороны хочется сделать супер фокус, так как понятно, чем меньше контекста использовано, тем выше качество, но тогда приходится полагаться на результат предыдущих агентов (которые могут накосячить). Если же никому не доверять (любая переработка или профильтровывание информации приводит только к снижению сигнала) - большой шанс понизить качество напихав слишком много информации в одного агента. Скорее всего ответ в балансе.
Наверняка есть какие-то научнные работы с AB тестами, статьи и т.д. Сталкивались ли вы с похожими мыслями? Что решили, что думаете? Поделитесь опытом. Думаю комментарии к этому посту будут полезны очень многим.