Дерево мыслей: целенаправленное решение задач с помощью больших языковых моделей

Языковые модели все чаще применяются для решения общих задач в широком спектре областей, однако на этапе вывода они по-прежнему ограничены процессами принятия решений на уровне токенов, выполняемыми слева направо. Это означает, что они могут демонстрировать низкую эффективность в задачах, требующих исследования вариантов, стратегического прогнозирования последствий или принятия первоначальных решений, играющих ключевую роль. Для преодоления этих трудностей мы предлагаем новый подход к выводу языковых моделей — «Дерево мыслей» (Tree of Thoughts, ToT), который обобщает популярный подход «Цепочка рассуждений» (Chain of Thought) к формированию запросов для языковых моделей и обеспечивает исследование согласованных текстовых единиц — мыслей, — выступающих промежуточными этапами решения задачи. ToT позволяет языковым моделям (LM) принимать обдуманные решения, рассматривая несколько различных траекторий рассуждений и самостоятельно оценивая варианты, чтобы определить дальнейший ход действий, а также при необходимости заглядывать вперед или возвращаться назад для принятия глобальных решений. Наши эксперименты показывают, что ToT существенно повышает способность языковых моделей решать задачи в трех новых сценариях, требующих нетривиального планирования или поиска: «Игра 24», творческое письмо и мини-кроссворды. Например, в задаче «Игра 24» GPT-4 при использовании подсказок с цепочкой рассуждений решил только 4% задач, тогда как предложенный нами метод достиг 74% успешных решений. Репозиторий с исходным кодом и всеми запросами: https://github.com/princeton-nlp/tree-of-thought-llm.