Первый заметный результат биологической лаборатории Anthropic оказался в центре научной дискуссии. Компания сообщила, что ИИ-агенты помогли обнаружить перспективную группу обратных транскриптаз, однако исследователь из Копенгагенского университета Марио Родригес Местре заявил, что его команда изучает те же системы уже несколько лет и получила ключевые результаты ещё до заявления Anthropic.

Спор оказался особенно чувствительным из-за того, что Местре и его коллеги активно пользовались Claude во время работы: загружали черновики научных материалов, обращались к модели при написании кода и решении других исследовательских задач. Учёный не утверждает, что Anthropic намеренно воспользовалась его неопубликованной работой, но задаётся вопросом, действительно ли ИИ пришёл к результату независимо. Anthropic это предположение отвергает и заявляет, что Claude не обучался на пользовательских переписках, а специалисты биологической команды компании не имели к ним доступа.

Что именно объявила Anthropic

В своей биологической лаборатории Anthropic экспериментирует с использованием автономных ИИ-агентов в научных исследованиях. Одной из первых задач стал поиск необычных ферментов в огромных генетических базах данных, содержащих миллиарды последовательностей.

Исследователей интересовали обратные транскриптазы — ферменты, способные создавать ДНК на основе последовательности РНК. Такие механизмы встречаются в разных биологических системах и, в частности, могут быть связаны с взаимодействием бактерий и вирусов.

ИИ-агентам предоставили пять известных примеров обратных транскриптаз и поручили искать потенциально похожие системы. Для анализа агенты самостоятельно создавали программные инструменты, просматривали генетические базы и отбирали наиболее интересных кандидатов.

В результате внимание исследователей привлекли последовательности, обнаруженные у бактерий, связанных с гигантскими фагами. Рядом с предполагаемыми генами обратных транскриптаз находились участки, кодирующие определённые молекулы РНК.

Обнаруженные системы Anthropic обозначила как ART — Array-associated Reverse Transcriptases. Компания представила эксперимент как пример того, что современные ИИ-агенты уже способны выполнять начальные этапы реального биологического исследования.

Учёный утверждает, что эти системы были известны его команде раньше

С такой трактовкой не согласился специалист по вычислительной биологии Марио Родригес Местре. По его словам, его команда занимается теми же ферментами и связанными с ними молекулярными системами около четырёх лет.

Исследователь утверждает, что обнаружил соответствующие обратные транскриптазы в гигантских фагах ещё в 2022 году. Более того, ключевые результаты, которые сейчас Anthropic представляет как результат работы ИИ-агентов, его команда, по словам Местре, получила более года назад.

Проблема заключается в том, что значительная часть этой работы пока не была опубликована в традиционной научной литературе. Поэтому при обычном поиске по открытым публикациям она могла быть недоступна исследователям Anthropic.

При этом существуют и другие следы более ранней работы. Местре некоторое время консультировал ReNAgade Therapeutics и указан среди авторов патентной заявки 2023 года, касающейся ряда обратных транскриптаз.

Почему в этой истории появился Claude

Дополнительные вопросы возникли из-за того, насколько активно исследовательская группа использовала модели Anthropic.

После появления Claude в 2023 году Местре начал применять его для программирования, подготовки научных текстов и различных вспомогательных задач. По словам исследователя, взаимодействие с ИИ стало существенной частью рабочего процесса.

В Claude отправлялись материалы, непосредственно связанные с исследованиями: черновик диссертации, рукописи и дополнительная информация о проекте.

Именно поэтому Местре заинтересовало происхождение результата Anthropic. Его беспокоит возможность того, что предоставленные пользователями научные сведения теоретически могли каким-либо образом повлиять на последующие поколения моделей или исследовательские системы компании.

При этом сам учёный подчёркивает, что доказательств такого сценария у него нет. Независимое обнаружение одинаковых закономерностей вполне возможно, особенно когда несколько исследовательских групп анализируют схожие наборы данных похожими методами.

Anthropic отрицает использование пользовательских материалов

Компания отвергла предположение о том, что результат биолаборатории мог появиться благодаря данным, полученным из частных диалогов пользователей с Claude.

По заявлению Anthropic, пользовательские переписки не использовались для обучения Claude, а сотрудники подразделения молекулярной биологии не имеют доступа к таким разговорам.

Компания также утверждает, что ей неизвестны более ранние опубликованные научные работы, в которых была бы описана обнаруженная ею ART-система.

По версии Anthropic, существенным вкладом Claude стало выявление связанного набора РНК и белка рядом с обратной транскриптазой. Именно сочетание этих компонентов компания рассматривает как важную часть результата своего эксперимента.

Учёные хотят большей прозрачности

Ситуация привлекла внимание и других специалистов. Биоинженер Сет Шипман подтвердил, что знаком с исследованиями Местре и обсуждал с ним соответствующие системы задолго до заявления Anthropic.

По его словам, история заставила некоторых исследователей вновь задуматься о том, что происходит с научной информацией, которую они передают ИИ-сервисам.

Это становится особенно важным для науки, где разница между опубликованным результатом и ещё не вышедшей рукописью может определять научный приоритет. Исследователи нередко используют ИИ при программировании, анализе данных, подготовке статей и редактировании текста, потенциально передавая сервисам сведения о проектах задолго до официальной публикации.

Сам Местре после произошедшего решил отказаться от дальнейшего использования Claude в своих проектах.

Anthropic делает большую ставку на ИИ в биологии

Для компании этот спор имеет особое значение, поскольку применение искусственного интеллекта в естественных науках становится одним из важных направлений развития Claude.

Глава Anthropic Дарио Амодей ранее говорил о больших перспективах использования ИИ в биологии и медицине. По его мнению, развитие подобных систем в ближайшие годы может существенно ускорить исследования и приблизить появление новых методов борьбы с заболеваниями.

Эксперимент с ART должен был стать практической демонстрацией возможностей такого подхода: ИИ получает общую научную задачу, создаёт инструменты анализа, исследует огромные массивы информации и предлагает исследователям перспективные направления.

Однако возникший спор показывает и другую сторону такого сценария. Чем активнее учёные используют генеративный ИИ в повседневной работе, тем важнее становится возможность достоверно установить происхождение идей и данных, на которых основаны результаты ИИ-систем.

Похожий спор возникал вокруг OpenAI

История Anthropic не единственная. Ранее похожие вопросы возникли после заявления OpenAI о применении искусственного интеллекта при работе над ранее недоказанной математической задачей.

Математик Тристан Бакмастер, активно использовавший ИИ-агентов OpenAI в собственных исследованиях, выразил опасения, что система могла получить идеи из предоставленных им материалов. OpenAI также отвергла утверждение о том, что соответствующая модель обучалась на его разработках.

Обе ситуации поднимают более широкий вопрос, который будет становиться всё актуальнее по мере распространения ИИ среди исследователей: каким образом можно убедительно подтвердить независимость научного результата, если те же учёные до публикации своих работ активно взаимодействовали с ИИ-системами.

В случае с Anthropic однозначного ответа пока нет. Местре признаёт возможность совпадения, а компания отрицает использование его пользовательских данных. Поэтому на данный момент речь идёт не о доказанном заимствовании, а о споре вокруг происхождения результата и прозрачности применения ИИ в научных исследованиях.