Дерево мыслей: целенаправленное решение задач с помощью больших языковых моделей

Tree of Thoughts: Deliberate Problem Solving with Large Language Models
Jeffrey Zhao, Izhak Shafran J, Thomas L. Griffiths, Karthik Narasimhan, Shunyu Yao, Dian Yu, Yuan Cao
2023-05-17

Игра 24Дерево мыслейпреднамеренное решение задачбольшие языковые моделистратегическое планирование на несколько шагов вперёд
Языковые модели все чаще применяются для решения общих задач в широком спектре областей, однако на этапе вывода они по-прежнему ограничены процессами принятия решений на уровне токенов, выполняемыми слева направо. Это означает, что они могут демонстрировать низкую эффективность в задачах, требующих исследования вариантов, стратегического прогнозирования последствий или принятия первоначальных решений, играющих ключевую роль. Для преодоления этих трудностей мы предлагаем новый подход к выводу языковых моделей — «Дерево мыслей» (Tree of Thoughts, ToT), который обобщает популярный подход «Цепочка рассуждений» (Chain of Thought) к формированию запросов для языковых моделей и обеспечивает исследование согласованных текстовых единиц — мыслей, — выступающих промежуточными этапами решения задачи. ToT позволяет языковым моделям (LM) принимать обдуманные решения, рассматривая несколько различных траекторий рассуждений и самостоятельно оценивая варианты, чтобы определить дальнейший ход действий, а также при необходимости заглядывать вперед или возвращаться назад для принятия глобальных решений. Наши эксперименты показывают, что ToT существенно повышает способность языковых моделей решать задачи в трех новых сценариях, требующих нетривиального планирования или поиска: «Игра 24», творческое письмо и мини-кроссворды. Например, в задаче «Игра 24» GPT-4 при использовании подсказок с цепочкой рассуждений решил только 4% задач, тогда как предложенный нами метод достиг 74% успешных решений. Репозиторий с исходным кодом и всеми запросами: https://github.com/princeton-nlp/tree-of-thought-llm.
1
В задаче Game of 24 GPT-4 с Chain-of-Thought решил 4% задач, тогда как Tree of Thoughts достиг показателя успеха 74%.
2
Метод поддерживает целенаправленное решение задач за счёт рассмотрения нескольких путей рассуждений, самооценки, упреждающего анализа, возврата назад и глобального выбора решений.
3
Tree of Thoughts расширяет подход Chain-of-Thought, позволяя языковым моделям исследовать связные промежуточные рассуждения вместо последовательной генерации токенов слева направо.
4
Tree of Thoughts существенно повышает результаты на задачах, требующих планирования и поиска, включая Game of 24, творческое написание и Mini Crosswords.

Фреймворк Tree of Thoughts (ToT) для вывода языковых моделей

целенаправленное многопутевое рассуждение с исследованием вариантов, самооценкой, заглядыванием вперёд и возвратом назад

Publication Details
Publication Date
2023-05-17
Journal
Publisher
ISSN
Cited by
574
Access Type
Author Information
Authors
Jeffrey Zhao
Izhak Shafran J
Thomas L. Griffiths
Karthik Narasimhan
Shunyu Yao
Dian Yu
Yuan Cao
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%