Руководитель Anthropic Дарио Амодеи призвал ведущие компании искусственного интеллекта осознанно снизить темпы разработки наиболее мощных моделей и использовать дополнительное время для усиления мер безопасности. Необычно то, что предложение практически сразу поддержали его прямые конкуренты — глава OpenAI Сэм Альтман и руководитель xAI Илон Маск. В условиях крайне жёсткой борьбы на рынке ИИ такое совпадение позиций выглядит особенно примечательно.

Речь при этом не идёт о полном прекращении исследований или многолетнем моратории. Амодеи предлагает выиграть хотя бы один-два года до появления систем с критически высоким уровнем возможностей и потратить этот период на независимые проверки, разработку единых стандартов и международное взаимодействие. По его мнению, искусственный интеллект способен радикально улучшить жизнь людей, но положительный эффект возможен только при контролируемом и безопасном развитии технологии.

Anthropic предлагает не остановку, а контролируемое замедление

Дарио Амодеи изложил свою позицию в объёмной публикации, посвящённой дальнейшему развитию искусственного интеллекта. Глава Anthropic считает, что отрасль приближается к этапу, когда одной конкуренции между разработчиками уже недостаточно для безопасного движения вперёд.

Подобные предложения обсуждались ещё в 2023 году. Однако тогда возможности языковых моделей были заметно скромнее, поэтому потенциальные риски воспринимались в основном как долгосрочная проблема.

За прошедшие годы ситуация изменилась. Современные системы стали значительно сильнее в программировании, анализе данных, работе с инструментами и выполнении сложных последовательностей задач. На этом фоне вопросы контроля над наиболее мощными моделями становятся всё более актуальными.

Амодеи считает, что даже относительно небольшая пауза в нынешней гонке может дать отрасли ценное время для создания механизмов, которые снизят вероятность серьёзных инцидентов.

План Anthropic состоит из трёх уровней

Глава Anthropic предлагает двигаться сразу по нескольким направлениям.

На первом этапе разработчикам следует открыть независимым специалистам доступ к части внутренних процедур безопасности. Внешние эксперты должны получить возможность оценивать методы тестирования передовых моделей и изучать информацию об обнаруженных инцидентах.

Второе направление предполагает сотрудничество между ведущими ИИ-компаниями стран с близкими принципами регулирования. Вместо разработки полностью независимых правил Амодеи предлагает сформировать общие стандарты безопасности, которым смогут следовать крупнейшие участники рынка.

Наиболее сложным выглядит третий этап — международные договорённости между государствами с различными политическими системами. По замыслу руководителя Anthropic, определённые ограничения и меры предосторожности должны действовать независимо от того, где именно создаётся мощная ИИ-система.

Полностью остановить гонку всё равно не получится

Амодеи одновременно признаёт серьёзную проблему такого подхода. Если американские разработчики слишком сильно снизят скорость исследований, этим способны воспользоваться геополитические конкуренты США.

Поэтому глава Anthropic не предлагает просто нажать условную кнопку «пауза». Необходимо подобрать темп, при котором разработка продолжится, но появится достаточно времени для тестирования систем и формирования защитных механизмов.

В этом заключается одно из главных противоречий современной ИИ-индустрии. Каждая компания заинтересована в безопасности, но ни одна не хочет первой существенно затормозить разработку, пока её конкуренты продолжают двигаться вперёд.

Именно поэтому общие правила становятся особенно важными: добровольные ограничения имеют гораздо больше шансов заработать, если крупнейшие участники рынка принимают их одновременно.

Сэм Альтман поддержал предложение конкурента

Позиция Амодеи получила поддержку со стороны главы OpenAI Сэма Альтмана. По его словам, внутри компании уже некоторое время идут похожие обсуждения.

Особенно Альтман поддержал предложение допустить независимых специалистов к оценке передовых ИИ-систем. OpenAI выразила готовность двигаться в этом направлении.

Схожую позицию ранее озвучивал ведущий научный сотрудник OpenAI Якуб Пачоцки. Он также выступал за добровольное снижение темпов гонки до появления общепринятых механизмов и стандартов безопасности.

Таким образом, речь идёт уже не только о личной инициативе руководителя Anthropic. Необходимость пересмотра нынешних правил развития ИИ обсуждают представители сразу нескольких крупнейших лабораторий.

Маск тоже согласился с Амодеи

Ещё одним неожиданным сторонником предложения оказался Илон Маск, возглавляющий xAI. В своей социальной сети X предприниматель кратко поддержал позицию главы Anthropic и признал его аргументы справедливыми.

Это особенно интересно с учётом непростых отношений между крупнейшими участниками рынка. Anthropic, OpenAI и xAI напрямую конкурируют друг с другом, а разногласия между их руководителями регулярно становятся публичными.

Тем заметнее выглядит редкий случай, когда Амодеи, Альтман и Маск практически одновременно сходятся в одном принципиальном вопросе.

Anthropic хочет привлечь к процессу и государство

Одного добровольного соглашения компаний в Anthropic считают недостаточным.

Отвечающая в компании за взаимодействие с государственными структурами Сара Хек призвала американские власти активнее участвовать в формировании правил для ИИ-индустрии.

Среди предлагаемых мер — ограничения на поставки наиболее производительных вычислительных ускорителей в Китай, а также законодательные требования к предварительному тестированию мощных ИИ-моделей перед их широким распространением.

В таком случае оценка безопасности должна превратиться из добровольной инициативы отдельных компаний в обязательную процедуру.

На отрасль усиливается общественное давление

Призывы к изменениям появились на фоне растущего внимания к внутренним процессам ведущих ИИ-компаний.

Бывшие сотрудники Anthropic и OpenAI публично критиковали подходы руководства к безопасности и заявляли, что коммерческая гонка способна заставлять разработчиков уделять потенциальным рискам меньше внимания, чем необходимо.

Одновременно расширяется область применения самих моделей. Искусственный интеллект всё активнее используется для программирования, автоматизации, научных исследований и работы с большими массивами информации.

Чем больше возможностей получают такие системы, тем выше потенциальная цена ошибки или злоупотребления.

Один-два дополнительных года могут многое изменить

Амодеи считает, что даже сравнительно небольшое замедление способно существенно повлиять на дальнейшее развитие отрасли. Если появление систем следующего уровня удастся отложить на год или два, это время можно использовать для совершенствования тестирования, контроля и международных правил.

При этом руководитель Anthropic остаётся сторонником дальнейшего развития искусственного интеллекта. Он не отказывается от идеи, что технология способна принести огромную пользу — от науки и медицины до экономики и повседневной жизни.

Главный вопрос теперь заключается в другом: смогут ли конкурирующие компании договориться о правилах раньше, чем очередной технологический скачок снова ускорит гонку.

Поддержка инициативы со стороны Сэма Альтмана и Илона Маска показывает, что беспокойство о скорости развития ИИ перестало быть позицией одной компании. Если крупнейшие разработчики действительно перейдут от публичных заявлений к совместным механизмам независимой проверки и единым стандартам, нынешняя дискуссия может стать началом заметного изменения правил всей ИИ-индустрии.