SafeScientist: Повышение безопасности AI-учёного для риск-ориентированных научных открытий
SafeScientist: Enhancing AI Scientist Safety for Risk-Aware Scientific Discovery
2025-01-01
SCID: 54.1/9a3ge4vt
Discuss with AI
безопасность ИИ-ученогоEMNLP 2025SafeScientistнаучное открытие с учётом рискаповышение безопасности для ИИ в научных открытиях
Figures from the paper
Abstract (AI)
Куньлун Чжу, Цзясун Чжан, Зихэн Ци, Нуосин Шанг, Цзицзя Лю, Пэйсюань Хан, Юэ Су, Хаофэй Ю, Цзяцюань Ю. Труды Конференции по эмпирическим методам в обработке естественного языка 2025 года. 2025.
Key Findings
1
Цель — снизить риски безопасности, связанные с автоматизированными научными исследованиями, выполняемыми системами ИИ.
2
Акцент на улучшении AI-движимого научного открытия за счёт включения осведомлённости о рисках в процесс открытия.
3
Представлена SafeScientist — система для повышения безопасности AI-ученых и обеспечения осознанного отношения к рискам при научных открытиях.
4
Предложены методы или рамки, интегрирующие соображения безопасности в рабочие процессы AI-учёных (SafeScientist).
Research Object
Система «AI scientist» (SafeScientist), используемая для автоматизированного научного открытия
Research Subject
Повышение безопасности и осознания рисков у AI scientist в процессе научного открытия, включая принятие решений с учётом рисков и механизмы их смягчения
Publication Details
Publication Date
2025-01-01
Journal
Publisher
ISSN
Cited by
0
Open access PDF
Access Type
Author Information
Download PDF
Subscribe to digest