🧠 Как устроены AI-агенты
Вышел очень подробный отчет "Advances and Challenges in Foundation Agents" — больше 250 страниц о будущем AI-агентов. Исследователи предлагают строить агентов по примеру мозга: память, восприятие, мышление и действия разделены на модули, как в человеческой нейросистеме. Такой подход помогает агентам учиться, планировать и адаптироваться, а не просто отвечать на запросы через prompting.
Интересные факты из отчета:
- Агенту нужна настоящая память, как у человека, иначе он будет каждый раз "забывать", что происходит.
- Важную роль играет умение рассуждать пошагово (reasoning), а не просто угадывать ответы.
- Для безопасности агентов обсуждается идея superalignment — более строгой настройки целей, чем обычное RLHF.
Отчет объединяет идеи из AI, когнитивных наук и нейронаук, показывая, где мы сейчас находимся и что еще предстоит решить на пути к настоящему AGI.
📝 Paper: https://arxiv.org/abs/2504.01990
👨💻 Github: https://github.com/FoundationAgents/awesome-foundation-agents
