ИИ в науке: этический спор о рецензировании исследований на ICLR

В этом году на конференции ICLR, многолетнем научном собрании о искусственном интеллекте, возникла дискуссия, связанная с исследованиями, выполненными при помощи ИИ.

По меньшей мере три лаборатории — Sakana, Intology и Autoscience — заявили о том, что использовали ИИ для генерации исследований, которые были приняты для докладов на ICLR. На таких конференциях, как ICLR, организаторы обычно отбирают работы для последующей публикации в рамках программы.

Компания Sakana уведомила руководство ICLR до подачи своих статей, созданных с помощью ИИ, и получила одобрение от рецензентов. В отличие от них, остальные две лаборатории — Intology и Autoscience — не предприняли таких шагов, что подтвердил представитель ICLR в разговоре с TechCrunch.

Некоторые исследователи в области ИИ выразили критику на тему методов Intology и Autoscience, утверждая, что их поведение неправомерно использует систему рецензирования.

«Все исследования в области искусственного интеллекта зависят от оценок, полученных на проверенных площадках. Однако никто не уполномочил использовать эту бесплатную рабочую силу», — отметил Притвирадж Амманабролу, доцент факультета компьютерных наук в Калифорнийском университете в Сан-Диего, в своем посте в X. — «Из-за этого я теряю уважение к участникам, независимо от того, насколько впечатляюща система. Пожалуйста, сообщите об этом редакторам».

Критики подчеркивают, что процесс рецензирования требует много времени, трудозатратен и часто носит добровольный характер. По данным одного из недавних исследовательских опросов Nature, 40% ученых занимают от двух до четырех часов на рецензирование одного исследования. Объем работы возрастает; количество поданных статей на крупнейшую конференцию по ИИ NeurIPS в прошлом году увеличилось до 17 491, что на 41% превышает 12 345 в 2023 году.

В академической среде уже давно существует проблема с использованием контента, созданного ИИ. Один анализ показал, что от 6,5% до 16,9% представленных статей на конференциях по ИИ в 2023 году могли содержать синтетический текст. Тем не менее, компании, занимающиеся ИИ, используют процесс рецензирования для эффективного продвижения своих технологий, что является сравнительно новым явлением.

«Статьи Intology получили единодушно положительные отзывы», — заявила компания в посте на X, пропагандирующем успех на ICLR. В этом же сообщении Intology утверждала, что рецензенты семинара высоко оценили «инновационную идею» одного из их исследований, созданного ИИ. Академическое сообщество отреагировало на это негативно.

Эшвини Панда, научный работник Мэрилендского университета, сообщил в своем посте на X, что отправка статей, созданных ИИ, без предварительного согласования с организаторами их демонстрации является «неуважением к времени рецензентов-сотрудников».

«Sakana обратилась к нам с предложением об участии в их эксперименте в рамках семинара, который я веду на ICLR, — добавил Панда. — Я (мы) ответили: “Нет”. […] Я считаю, что подавать статьи об ИИ на конференцию, не соприкасаясь с рецензентами, — это неправильно».

Многие исследователи скептически относятся к тому, что статьи, созданные ИИ, заслуживают рецензирования.

Компания Sakana признала, что её ИИ допустил «неприятные» ошибки в цитатах и что только одна из трёх отправленных на конференцию статей соответствовала критериям. В интересах прозрачности и соблюдения стандартов ICLR Sakana отозвала свою статью до её публикации.

Александр Дориа, соучредитель стартапа Pleias, занимающегося ИИ, высказал мнение о том, что большое количество скрытых синтетических заявок на ICLR указывает на необходимость создания «регулируемой компании или государственного учреждения», которое будет проводить «высококачественные» исследования с использованием ИИ за определенную плату.

«Рецензирование должно проводиться исследователями, которые полностью компенсируют затраты своего времени», — отметил Дориа в серии постов на X. — «Академическая среда не должна превращаться в аренду бесплатных оценок для ИИ».

Источник