rvachev.orgEN / RU / 🤖
← К эссе
· Эссе · 1 мин

Tree of Thoughts: новый подход к языковым моделям

Новый метод применения языковых моделей, известный как "Tree of Thoughts" (ToT), решает ограничения подхода "Chain of Thought".

🤖 "Tree of Thoughts": новый подход к применению больших языковых моделей для решения сложных задач

Последние исследования от Google DeepMind и Princeton University представили новый метод применения языковых моделей, известный как "Tree of Thoughts" (ToT). Этот подход предлагает решение для ограничений существующего подхода "Chain of Thought" (CoT), который сталкивается с трудностями в задачах, требующих планирования или исследования. Кстати, если вы не знаете, что такое "Chain of Thought" и не применяете его при использовании ChatGPT - вы теряете как миниму половину качества финального ответа.

ToT позволяет языковым моделям использовать "мысли" или целостные единицы текста в качестве промежуточных шагов при решении проблем. Он подразумевает использование множественных путей рассуждения и самооценку выбора для определения следующих действий. Вместо подхода "символ-за-символом", ToT позволяет смотреть вперед, возвращаться назад и исследовать разные мысли глобально.

Эксперименты показали, что ToT значительно улучшает способности языковых моделей к решению проблем. Например, в игре "Game of 24" GPT-4 с CoT решает только 4% задач, в то время как подход ToT позволяет решать 74% задач.

📝 Paper: https://arxiv.org/pdf/2305.10601.pdf
👨‍💻 Github: https://github.com/ysymyth/tree-of-thought-llm

Tree of Thoughts: новый подход к языковым моделям — illustration