Автоматическая обработка данных и конструирование признаков для приложений глубокого обучения и больших данных: обзор
Automated data processing and feature engineering for deep learning and big data applications: A survey
2024-01-08
SCID: 54.1/x54uepyf
Discuss with AI
автоматизированная обработка данныхавтоматизированное машинное обучениеувеличение данныхконвейеры глубокого обученияинженерия признаков
Figures from the paper
Abstract (AI)
Современные подходы к искусственному интеллекту (ИИ) направлены на разработку алгоритмов, которые обучаются непосредственно на данных. Этот подход продемонстрировал впечатляющие результаты и внес значительный вклад в развитие ИИ, особенно в области обучения с учителем на основе глубокого обучения. Он также упростил разработку систем машинного обучения, поскольку процесс обучения в значительной степени автоматизирован. Однако не все задачи обработки данных в традиционных конвейерах глубокого обучения автоматизированы. В большинстве случаев данные необходимо собирать и предварительно обрабатывать вручную, а затем дополнительно расширять с помощью аугментации данных, прежде чем их можно будет эффективно использовать для обучения. В последнее время появились специальные методы автоматизации этих задач. Автоматизация задач обработки данных обусловлена необходимостью использовать большие объемы сложных, неоднородных данных в приложениях машинного обучения и работы с большими данными. Сегодня сквозные автоматизированные системы обработки данных, основанные на методах автоматизированного машинного обучения (AutoML), способны преобразовывать исходные данные в полезные признаки для задач работы с большими данными, автоматизируя все промежуточные этапы обработки. В этой работе представлен подробный обзор подходов к автоматизации задач обработки данных в конвейерах глубокого обучения, включая автоматизированную предварительную обработку данных — например, очистку данных, разметку, импутацию пропущенных данных и кодирование категориальных данных, — а также аугментацию данных, включая генерацию синтетических данных с использованием методов генеративного искусственного интеллекта, и конструирование признаков, в частности автоматизированное извлечение, создание и отбор признаков. Помимо автоматизации отдельных задач обработки данных, мы рассматриваем применение методов и инструментов AutoML для одновременной оптимизации всех этапов конвейера машинного обучения.
Key Findings
1
Системы AutoML могут преобразовывать необработанные данные в полезные признаки для задач больших данных, совместно оптимизируя все этапы конвейера машинного обучения.
2
Автоматизированное конструирование признаков классифицируется на извлечение, построение и отбор признаков.
3
Обзор охватывает автоматизированную очистку данных, разметку, заполнение пропусков и кодирование категориальных данных.
4
Рассматриваются методы аугментации данных, включая генерацию синтетических данных с помощью генеративного ИИ, для сложных и гетерогенных наборов данных.
5
В обзоре рассматривается автоматизация ранее выполнявшихся вручную этапов обработки данных для глубокого обучения, включая сбор, предобработку, аугментацию и конструирование признаков.
Research Object
системы автоматизированной обработки данных и конвейеры глубокого обучения для приложений Big Data
Research Subject
автоматизация и совместная оптимизация предварительной обработки данных, расширения данных и конструирования признаков на этапах конвейеров машинного обучения
Publication Details
Publication Date
2024-01-08
Journal
Publisher
ISSN
Cited by
163
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai17
Классификация ImageNet с использованием глубоких сверточных нейронных сетей2017
Использование генеративного искусственного интеллекта для масштабирования интеллектуальных обучающих систем2023
Scikit-learn: машинное обучение на Python2012
ImageNet: крупномасштабная иерархическая база изображений2009
PyTorch: библиотека глубокого обучения с императивным стилем программирования и высокой производительностью2019
LLaMA: открытые и эффективные базовые языковые модели2023
Обучение представлений: обзор и новые перспективы2013
Обзор методов аугментации изображений для глубокого обучения2019
Труды 24-й Международной конференции по машинному обучению2007
Труды 22-й Международной конференции ACM SIGKDD по интеллектуальному анализу данных и извлечению знаний2016
Обзор методов оценки больших языковых моделей2024
mixup: За пределами эмпирической минимизации риска2017
RandAugment: практическое автоматизированное расширение данных с сокращённым пространством поиска2020
Приложения и проблемы глубокого обучения в аналитике больших данных2015
Автоматизированное машинное обучение: обзор современного состояния и перспективы применения в здравоохранении2020
Реконструкция изображений КТ с использованием глубокого обучения: технические принципы и клинические перспективы2023
Конвейер с поддержкой искусственного интеллекта для динамической генерации достоверного контента о пищевых добавках в больших масштабах2022