Тестирование программного обеспечения с помощью больших языковых моделей: обзор, ландшафт и видение

Software Testing With Large Language Models: Survey, Landscape, and Vision
Qing Wang, Junjie Wang, Yuchao Huang, Chunyang Chen, Zhe Liu, Song Wang
2024-02-20

генеративные большие языковые моделиисправление программ (program repair)промпт-инжинирингтестирование программного обеспеченияподготовка тестовых случаев
Предобученные большие языковые модели (LLM) в последнее время стали прорывной технологией в области обработки естественного языка и искусственного интеллекта, обладая способностью обрабатывать крупномасштабные наборы данных и демонстрировать выдающиеся результаты по широкому кругу задач. В то же время тестирование программного обеспечения является ключевой деятельностью, обеспечивающей качество и надежность программных продуктов. По мере роста объема и сложности программных систем потребность в более эффективных методах тестирования становится все более актуальной, что делает эту область перспективной для инновационных подходов, таких как использование LLM. В статье представлен всесторонний обзор использования LLM в тестировании программного обеспечения. Проанализированы 102 соответствующих исследования, применявших LLM для тестирования программного обеспечения, с позиций как тестирования ПО, так и самих LLM. В работе подробно рассматриваются задачи тестирования ПО, для которых LLM используются наиболее часто; наиболее показательные из них — подготовка тестовых случаев и исправление программ (program repair). Также проанализированы наиболее часто используемые LLM, типы применяемого prompt engineering, а также сопутствующие техники, используемые вместе с этими моделями. Подведены итоги по ключевым проблемам и потенциальным возможностям в данном направлении. Эта работа может послужить дорожной картой для будущих исследований в области, выделяя перспективные направления для изучения и выявляя пробелы в нашем текущем понимании применения LLM в тестировании программного обеспечения.
1
LLM часто используются для множества задач тестирования ПО, при этом подготовка тестовых случаев и исправление программ (program repair) выделены как наиболее представительные приложения.
2
Статья выявляет ключевые проблемы и потенциальные возможности использования LLM в тестировании ПО и предлагает дорожную карту для будущих исследований.
3
В статье проанализировано 102 исследования по применению больших языковых моделей (LLM) в тестировании ПО, объединены выводы с точки зрения тестирования и LLM.
4
Обзор анализирует часто используемые LLM, стратегии prompt engineering и сопутствующие техники, применяемые в рабочих процессах тестирования с LLM.
5
Работа подчеркивает пробелы в текущем понимании роли LLM в тестировании ПО и предлагает направления для дальнейшего изучения.

Предобученные большие языковые модели (LLM), применяемые к тестированию программного обеспечения

Применение, возможности, методы, проблемы и перспективы использования LLM в задачах тестирования ПО (например, подготовка тестовых случаев и ремонт программ), включая проектирование подсказок (prompt engineering) и сопутствующие методы

Publication Details
Publication Date
2024-02-20
Journal
Publisher
ISSN
Cited by
489
Access Type
Author Information
Authors
Qing Wang
Junjie Wang
Yuchao Huang
Chunyang Chen
Zhe Liu
Song Wang
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat
Make a presentation
100%