Противостояние между частью математического сообщества и OpenAI усиливается. Двадцать пять обладателей медали Филдса подписали открытое письмо с предупреждением о том, что стремительная гонка ИИ-компаний за громкими математическими открытиями способна навредить научной среде. Учёных беспокоит не само использование искусственного интеллекта, а то, как результаты получают, проверяют, публикуют и кому в итоге достаётся авторство.

Дополнительное напряжение возникло после обвинений профессора Нью-Йоркского университета Тристана Бакмастера в адрес OpenAI. Учёный заявил о давлении в вопросе указания соавтора из Anthropic, а также публично поднял вопрос о том, могли ли материалы, передаваемые исследователями в Codex, каким-либо образом использоваться при последующей работе компании над математическими задачами. На этом фоне OpenAI отказалась от спонсорства математического мероприятия в Калифорнийском технологическом институте после критики со стороны исследователей.

Двадцать пять медалистов Филдса требуют изменить подход

Открытое письмо подписала исключительно представительная группа учёных: все 25 первоначальных участников являются обладателями медали Филдса — одной из наиболее престижных международных наград в математике.

Авторы обращения не отрицают потенциальную ценность искусственного интеллекта для науки. Напротив, способность ИИ находить доказательства сложных и десятилетиями остававшихся нерешёнными задач может значительно ускорить развитие математики.

Однако, по мнению подписантов, одного факта получения правильного ответа недостаточно. Новое доказательство должно быть проверяемым и понятным специалистам. Не менее важно объяснить ключевые идеи и методы, показать связь результата с предыдущими исследованиями и корректно определить вклад всех участвовавших в работе учёных.

Именно здесь стремление ИИ-компаний как можно быстрее объявить об очередном достижении начинает конфликтовать с традиционными принципами научной работы.

В центре спора оказались авторство и Codex

Новый виток конфликта связан с профессором Нью-Йоркского университета Тристаном Бакмастером.

Исследователь заявил, что OpenAI оказывала на него давление, добиваясь того, чтобы в одной из научных работ не фигурировал в качестве автора его коллега из Anthropic, вместе с которым Бакмастер занимался решением важной математической задачи.

Одновременно возник ещё более чувствительный вопрос — о данных, которые исследователи передают ИИ-инструментам.

Бакмастер публично задался вопросом, могла ли информация из материалов, загруженных математиками в Codex, оказаться полезной OpenAI при последующем поиске собственного доказательства с использованием масштабных вычислительных ресурсов.

Само по себе такое предположение не является доказательством неправомерного использования данных. Однако ситуация показывает, насколько важным становится вопрос прозрачности работы научных ИИ-инструментов.

Громкое доказательство ещё необходимо проверить

Ещё одна претензия математического сообщества связана со скоростью публикации результатов.

Когда ИИ получает потенциально новое доказательство, желание разработчика первым объявить о прорыве вполне объяснимо. Однако математическое открытие нельзя оценивать только по способности системы выдать длинную последовательность логических рассуждений.

Результат необходимо независимо проверить. Затем специалистам предстоит понять, какие идеи действительно являются новыми, насколько доказательство универсально и как оно соотносится с уже существующими исследованиями.

В случае обсуждаемого результата OpenAI, как отмечает TechCrunch, такая независимая проверка на момент публикации материала ещё не была завершена.

Это принципиальная деталь: потенциально новое доказательство и признанный математический результат — не одно и то же.

Учёные опасаются гонки вычислительных бюджетов

За дискуссией об авторстве скрывается более фундаментальная проблема.

Современные ИИ-компании располагают вычислительными и финансовыми ресурсами, недоступными отдельному университету или небольшой исследовательской группе. Теоретически лаборатория, обнаружив перспективное направление исследования, способна направить огромные вычислительные мощности на поиск решения.

Возникает необычная для традиционной науки ситуация: исследователь может годами разрабатывать новую идею, поделиться промежуточными результатами с ИИ-системой, а затем оказаться в соревновании с компанией, располагающей значительно большими ресурсами.

Даже сама возможность подобного сценария способна изменить поведение учёных.

Открытая наука может стать более закрытой

Математика традиционно развивается благодаря интенсивному обмену идеями. Исследователи обсуждают незавершённые гипотезы, делятся промежуточными результатами, проводят семинары и помогают коллегам находить новые направления работы.

Если учёные начнут опасаться, что ранняя идея может оказаться преимуществом для крупной ИИ-лаборатории, естественной реакцией станет ограничение доступа к незавершённым исследованиям.

Это может привести к парадоксальному результату: технология, предназначенная для ускорения научного прогресса, одновременно создаст стимулы для большей секретности внутри научного сообщества.

Поэтому вопрос о том, какие пользовательские и исследовательские данные могут применяться разработчиками ИИ и на каких условиях, приобретает для науки особое значение.

Проблема появилась не сегодня

Открытое письмо стало продолжением уже начавшейся внутри математического сообщества дискуссии.

В июне группа исследователей представила Лейденскую декларацию, посвящённую влиянию больших языковых моделей на математические исследования. В документе рассматривались принципы работы с доказательствами, созданными при участии ИИ, а также рекомендации для математиков, университетов, научных организаций и государственных структур.

Таким образом, нынешний конфликт нельзя свести исключительно к спору нескольких исследователей с OpenAI. Научное сообщество пытается сформировать правила для ситуации, которой ещё несколько лет назад практически не существовало.

Почему одного правильного доказательства недостаточно

Математика представляет собой не просто огромную коллекцию решённых задач.

Не менее важен процесс, благодаря которому появляется новое знание: исследователь формулирует вопрос, предлагает гипотезу, разрабатывает метод, объясняет его коллегам, получает критику, совершенствует доказательство и в конечном итоге встраивает открытие в существующую научную систему.

Именно вокруг новых методов возникают следующие исследования, обучаются студенты и формируются целые математические направления.

Если ИИ сможет выдавать правильные доказательства, но люди перестанут понимать происхождение и значение стоящих за ними идей, формально объём математических знаний продолжит увеличиваться, однако механизм их передачи и развития может существенно измениться.

В этом и заключается главный смысл обращения математиков. Они выступают не против применения искусственного интеллекта в науке, а за сохранение принципов, благодаря которым результат превращается в полноценное научное знание: проверяемости, объяснимости, корректного авторства и открытого обмена идеями.

Спор вокруг OpenAI поэтому затрагивает гораздо более широкий вопрос, чем судьба одной математической работы. По мере того как ИИ становится способен выполнять всё более сложную интеллектуальную работу, обществу предстоит решить, как использовать эту способность, не разрушив одновременно научную среду, которая создаёт, проверяет и передаёт человеческие знания.