Недавние исследования, проведенные специалистами Школы управления имени Джона Ф. Кеннеди в Соединенных Штатах, выявили потенциальные угрозы, связанные с публикацией научных материалов, созданных при помощи искусственного интеллекта (ИИ). В документе, размещенном на официальном сайте данной организации, отмечается, что в последние годы в научных журналах наблюдается тенденция к появлению статей, полностью или частично сгенерированных ИИ. Ученые выражают свои опасения, что такие публикации могут выдать за оригинальные научные работы, написанные живыми авторами, что, в свою очередь, способно привести к дезинформации и вызвать раскол в научном сообществе.
В рамках своего исследования команда экспертов провела поиск через платформу Google Scholar и обнаружила 139 статей, которые, как они считают, были созданы с использованием технологий ИИ. Примечательно, что большинство этих публикаций прошло через редакторский контроль и рецензирование, что добавляет сложности к ситуации. Авторы исследования отметили, что они использовали определенные методы анализа текста и поиск характерных фраз, свойственных машинам, чтобы определить источники этих публикаций.
Особое беспокойство вызывает тот факт, что 57% обнаруженных статей были сосредоточены вокруг таких спорных и важных тем, как здравоохранение, вычислительные технологии и экология. Ученые утверждают, что риск заключается в том, что конечные пользователи — будь то исследователи или широкая публика — могут нечаянно поверить в достоверность приведенной информации, так как статьи были напечатаны в реномированных научных журналах. «Это ставит под угрозу целостность научной информации и репутацию научных изданий», — отметили авторы работы, подводя итог своих наблюдений.
Несмотря на указанные риски, некоторые эксперты полагают, что искусственный интеллект все же может сыграть положительную роль в исследовательской деятельности. Ранее сообщалось об идее использования ИИ для ускорения процесса рецензирования научных статей. Подход заключается в том, что тексты, оцененные алгоритмами, затем направляются на финальную проверку экспертам-ученым для окончательной оценки и принятия решения о публикации. Это предполагает возможность более эффективного и быстрого анализа, однако требует пристального внимания к качеству и источникам материалов, чтобы минимизировать риски, связанные с появлением недостоверной информации в научной среде.