Сравнение научных аннотаций, сгенерированных ChatGPT, с реальными аннотациями с помощью детекторов и слепых рецензентов

Comparing scientific abstracts generated by ChatGPT to real abstracts with detectors and blinded human reviewers
Alexander T. Pearson, Yuan Luo, Emma Dyer, Nikolay S. Markov, Catherine A. Gao, Frederick Matthew Howard, Siddhi Ramesh
2023-04-26

детектор ИИ (GPT-2 Output Detector)проверка на плагиат / iThenticateChatGPTAUROC 0.94научные рефератыслепые рецензентыscientific abstracts
Модели больших языковых моделей, такие как ChatGPT, могут генерировать всё более правдоподобный текст, что создаёт неопределённость относительно точности и добросовестности использования таких моделей в научном письме. Мы собрали пятьдесят научных аннотаций из пяти медицинских журналов с высоким импакт‑фактором и попросили ChatGPT сгенерировать аннотации на основе их заголовков и целевых журналов. Большинство сгенерированных аннотаций были выявлены детектором AI‑выхода («GPT-2 Output Detector»), с показателями «fake» (более высокие значения означают большую вероятность генерации) медиана [межквартильный размах] 99.98% [12.73%, 99.98%] для сгенерированных аннотаций против медианы 0.02% [IQR 0.02%, 0.09%] для оригинальных аннотаций. Площадь под кривой рабочих характеристик приёма-передачи (AUROC) детектора составила 0.94. Сгенерированные аннотации получили более низкие результаты по сравнению с оригиналами при проверке на плагиат через веб‑сервис и iThenticate (более высокие баллы означают большее совпадение текста). В смешанной выборке оригинальных и сгенерированных аннотаций слепые рецензенты правильно определили 68% сгенерированных аннотаций как созданные ChatGPT, но ошибочно пометили 14% оригинальных аннотаций как сгенерированные. Рецензенты отмечали, что различить их оказалось неожиданно трудно, указывая, что предполагаемые сгенерированные аннотации были более расплывчатыми и более формульными. ChatGPT способен писать правдоподобные научные аннотации, однако с полностью вымышленными данными. В зависимости от издательских правил детекторы AI‑контента могут служить редакторским инструментом для поддержания научных стандартов. Границы этичного и приемлемого использования больших языковых моделей для помощи в научном письме всё ещё обсуждаются, и журналы и конференции принимают различные политики.
1
Детекторы ИИ могут быть полезны в качестве редакторского инструмента для поддержания научных стандартов, но этические границы и политики издательств по использованию LLM остаются предметом обсуждения.
2
Детектор ИИ ('GPT-2 Output Detector') присвоил сгенерированным аннотациям медианный 'фейк' балл 99.98% [IQR 12.73%, 99.98%], тогда как оригинальным — 0.02% [IQR 0.02%, 0.09%].
3
Слепые рецензенты правильно определили 68% сгенерированных аннотаций, но ошибочно пометили 14% оригинальных как сгенерированные; рецензенты отмечали, что сгенерированные аннотации более расплывчаты и шаблонны.
4
ChatGPT может генерировать правдоподобные научные аннотации по заголовкам и названию журнала, но эти аннотации содержат полностью сгенерированные данные.
5
Сгенерированные аннотации получили более низкие оценки (т.е. меньше совпадений) в системах проверки плагиата и iThenticate по сравнению с оригинальными аннотациями, что указывает на более новаторную формулировку.
6
AUROC детектора ИИ для разделения сгенерированных и оригинальных аннотаций составил 0.94.

Научные рефераты (оригинальные и сгенерированные ChatGPT) из высокоимпактных медицинских журналов

Сравнительная обнаруживаемость и различимость рефератов, сгенерированных ChatGPT, и оригинальных: оценки детектора ИИ (GPT-2 Output Detector и AUROC), результаты проверки на плагиат/iThenticate, точность идентификации слепыми рецензентами и качественные впечатления рецензентов

Publication Details
Publication Date
2023-04-26
Journal
Publisher
ISSN
Cited by
1204
Access Type
Author Information
Authors
Alexander T. Pearson
Yuan Luo
Emma Dyer
Nikolay S. Markov
Catherine A. Gao
Frederick Matthew Howard
Siddhi Ramesh
Explore further
Open the scid.ai AI chat with a ready-made request: it will find papers on a similar topic and help build a literature review.
Find similar papers in the chat →
Make a presentation
100%