Искусственные галлюцинации в ChatGPT: значение для научной публикации
Artificial Hallucinations in ChatGPT: Implications in Scientific Writing
2023-02-19
SCID: 54.1/qun29s2k
Discuss with AI
ChatGPTискусственные галлюцинацииостеопороз, связанный с гомоцистинуриейболезнь Помпе с поздним началомнаучное письмо
Figures from the paper
Abstract (AI)
Несмотря на то что ChatGPT (Generative Pre-trained Transformer, генеративный предварительно обученный трансформер), представленный в ноябре 2022 года, находится на раннем этапе развития, он, вероятно, окажет значительное влияние на многие отрасли, включая здравоохранение, медицинское образование, биомедицинские исследования и научную публикацию. Значение ChatGPT — нового чат-бота, представленного компанией OpenAI, — для академического письма пока в значительной степени неизвестно. В ответ на призыв Journal of Medical Science (Cureus) к участию в тесте Тьюринга с представлением клинических случаев, написанных с помощью ChatGPT, мы представляем два случая: первый — остеопороз, ассоциированный с гомоцистинурией, второй — поздно манифестирующая болезнь Помпе (LOPD), редкое метаболическое заболевание. Мы проверили способность ChatGPT описывать патогенез этих состояний и зафиксировали положительные, отрицательные и вызывающие серьезную обеспокоенность аспекты работы этого недавно представленного чат-бота.
Key Findings
1
ChatGPT специально тестировали на создании описаний патогенеза этих двух медицинских состояний.
2
Авторы документируют как положительные, так и отрицательные стороны работы ChatGPT при подготовке биомедицинских текстов.
3
В статье оценивается научное письмо с помощью ChatGPT на примере двух клинических случаев: остеопороза, связанного с гомоцистинурией, и поздно начавшейся болезни Помпе.
4
Статья выявляет тревожные аспекты контента, созданного ChatGPT, подчёркивая потенциальные риски для академического и медицинского письма.
5
Исследование представляет одну из ранних оценок последствий использования ChatGPT в здравоохранении, биомедицинских исследованиях, медицинском образовании и научном письме.
Research Object
Научное письмо с использованием ChatGPT о патогенезе остеопороза, связанного с гомоцистинурией, и поздно начавшейся болезни Помпе
Research Subject
Работа ChatGPT, включая положительные, отрицательные стороны и проявления искусственных галлюцинаций, при создании материалов о патогенезе заболеваний
Publication Details
Publication Date
2023-02-19
Journal
Publisher
ISSN
Cited by
1540
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest
Источники этой статьи в scid.ai3
Результаты ChatGPT на экзамене USMLE: потенциал применения больших языковых моделей для медицинского образования с использованием искусственного интеллекта2023
Сравнение научных аннотаций, сгенерированных ChatGPT, с реальными аннотациями с помощью детекторов и слепых рецензентов2023
Сравнение научных аннотаций, сгенерированных ChatGPT, с оригинальными аннотациями с использованием детектора AI-выхода, детектора плагиата и слепых рецензентов2022
Работы, цитирующие эту статью9
ChatGPT: комплексный обзор предпосылок создания, применений, ключевых проблем, предвзятости, этических аспектов, ограничений и перспектив развития2023
Осмысление будущего искусственного интеллекта в учебной аудитории: значение грамотности в области ИИ, инженерии запросов и критического мышления в современном образовании2024
Формирование будущего образования: изучение потенциала и последствий применения искусственного интеллекта и ChatGPT в образовательной среде2023
Роль ChatGPT в высшем образовании: преимущества, проблемы и направления будущих исследований2023
Использование ChatGPT в академическом письме — это (не) форма плагиата: что говорит литература?2023
Всеобъемлющее обзорное исследование ChatGPT: достижения, приложения, перспективы и проблемы2023
Грамотность в области генеративного искусственного интеллекта: двенадцать определяющих компетенций2024
Разговорный и генеративный искусственный интеллект и взаимодействие человека с чат-ботом в образовании и научных исследованиях2024
Развитие критического мышления в биологических науках в эпоху искусственного интеллекта: роль высшего образования2025