Прошлым летом постдок Питер Деген получил необычную задачу: одна из статей его руководителя цитировалась слишком часто — сотни раз за короткое время. Оказалось, что все новые статьи используют один и тот же набор данных Глобального бремени болезней, генерируя бесконечные прогнозы о разных заболеваниях. Деген обнаружил, что за этим стоит китайская компания, продающая туториалы по быстрой генерации публикаций с помощью ИИ и софта. Такие исследования полны ошибок и искажений, но выглядят правдоподобнее прежних ИИ-фальшивок.
«Это огромное бремя для системы рецензирования, которая уже на пределе», — считает Деген. ИИ позволяет массово производить статьи, подрывая один из столпов науки. Чем лучше технология, тем хуже кризис — рецензенты тонут в потоке.
Академические издательства десятилетиями борются с «фабриками статей». Генеративный ИИ стал их новым оружием, создавая уникальные тексты и изображения, обходящие детекторы плагиата. Раньше выдавали галлюцинации (вроде гигантских яичек у крысы), но теперь ИИ пишет убедительные работы почти целиком.
Мэтт Спик, редактор Scientific Reports, заметил взрыв статей по данным NHANES: каждая заявляла о новой корреляции — от грецких орехов до депрессии. «Если хватит вычислительной мощности, перебираешь все пары ассоциаций и публикуешь любую случайную связь», — пояснил он.
Сыщики научились выявлять подделки по «искажённым фразам», дубликатам изображений и вымышленным цитатам. Но сейчас фальшивки стали настолько качественными, что их почти не отличить от настоящих работ. Журналы уже ограничивают приём статей по открытым наборам данных.
Мэри Мой-Прайс, редактор Security Dialogue, сообщает о двукратном росте числа заявок. «Мошенничество и академическая наука сливаются в серую массу», — говорит она. Рецензенты всё реже соглашаются работать бесплатно: вместо 4 запросов на 3 ответа теперь нужно до 20 попыток.
Дэвид Ресник из Accountability in Research зафиксировал 60%-ный скачок числа статей, причём многие сами посвящены фальшивым публикациям. Он подозревает, что и отзывы рецензентов уже пишет ИИ. Опрос показал: более половины учёных используют ИИ при рецензировании.
Корень проблемы — в системе стимулов: «публикуйся или умри» и платные открытые журналы. Исследователи, использующие ИИ, выпускают втрое больше работ и быстрее становятся лидерами проектов. Но это ведёт к сужению тематики и росту «научного мусора».
Решения нет. STM Integrity Hub запустил инструменты для проверки, но будущее — за подтверждением подлинности (водяные знаки, данные). По словам Риса Ричардсона, «единственный выход — изменить то, как наука присуждает престиж и ресурсы». Винсент Ларивьер добавляет: «Нужна реформа того, что важно в науке. Нужно больше науки, но точно не больше статей».
0 комментариев