DigEd chat

​​Кто несёт ответственность, когда ИИ помогает писать научные работы? Автор Роберт Браун Проблема гораздо шире, чем просто решение, можно ли считать ИИ соавтором: речь идёт о том, кто получает научное признание и кто несёт ответственность за результат. ИИ нельзя рассматривать как обычного участника исследовательской команды. Человек способен объяснить свой вклад, реагировать на критику и нести ответственность за ошибки, тогда как GenAI не способен отвечать за созданный им текст, анализ или идеи. При этом использование ИИ включает множество различных операций — поиск и синтез литературы, генерацию идей, написание и редактирование текста, классификацию и проверку информации. Существующая система авторства плохо отражает это новое распределение труда. В существующей иерархической экономики научного авторства часть работы получает статус авторского вклада, часть превращается в «помощь» и упоминается в благодарностях, а часть вообще становится невидимой. Появление ИИ заставляет спросить: если синтез литературы с помощью ИИ может считаться существенным интеллектуальным вкладом, то почему аналогичная работа, выполненная младшим исследователем, не должна давать ему авторство? Роберт Браун предлагает развивать существующую таксономию CRediT, которая распределяет вклад исследователей по конкретным ролям, создав её расширение — CRediT-AI. В такой системе не ИИ становится автором, а фиксируется способ, которым ИИ участвовал в работе человека. Например: концептуализация — ИИ помогал генерировать идеи; методология — помогал структурировать исследование; анализ — помогал синтезировать материалы; написание — помогал создавать и реструктурировать текст; редактирование — помогал сокращать и улучшать текст. При этом за каждой ролью сохраняется человек, а отдельно указывается характер использования ИИ. Ключевым элементом становится обязательное заявление о проверке и подотчётности: авторы должны указывать, кто проверял результаты, полученные с помощью ИИ — например, корректность ссылок, литературы или программного кода. Браун фактически предлагает перейти от вопроса «является ли ИИ автором?» к вопросу «как именно ИИ участвовал в создании научного результата и кто отвечает за этот вклад?». При этом автор видит в GenAI не только угрозу. ИИ выявляет слабые места самой традиционной системы научного авторства — невидимый труд студентов, ассистентов, рецензентов, технических специалистов и даже людей, которые обеспечивают работу ИИ-систем через разметку данных, оценку моделей и инженерную инфраструктуру. Прозрачность использования ИИ не следует рассматривать как проблему, которую необходимо скрывать. Напротив, она может стать поводом пересмотреть саму систему научного авторства, заслуг и ответственности. CRediT-AI не является окончательным решением, но может стать практическим механизмом, связывающим использование ИИ с человеческой ответственностью. Читать 7мин