Глава OpenAI Сэм Альтман считает, что развитие искусственного интеллекта несёт сразу две серьёзные опасности. Первая связана с возможной утратой контроля над высокоавтономными системами, а вторая — с сосредоточением самой технологии в руках нескольких компаний, государственных структур или влиятельных руководителей.

По мнению Альтмана, стремление любой ценой защитить человечество от потенциально опасного ИИ способно привести к чрезмерным ограничениям. В результате общество может добровольно отказаться от части своих свобод, а решения о дальнейшем развитии технологии будет принимать узкий круг людей. Глава OpenAI выступает за другой подход: пользователи должны сохранять возможность влиять на будущее ИИ, а модели — развиваться вместе с обществом и с учётом его потребностей.

Две угрозы вместо одного сценария

Разговоры об опасности искусственного интеллекта часто сводятся к сценарию, при котором достаточно развитая система перестаёт подчиняться человеку. Альтман признаёт такой риск, однако не считает его единственной проблемой, требующей внимания.

Не менее тревожной он называет ситуацию, когда контроль над наиболее мощными моделями, вычислительной инфраструктурой и правилами использования ИИ оказывается у небольшой группы участников рынка. Обычные люди в этом случае смогут пользоваться готовыми продуктами, но фактически лишатся возможности влиять на направление развития технологии.

В беседе с ведущим подкаста Дэвидом Сенрой Альтман подчеркнул, что общество должно сохранять значительную роль в определении будущего. ИИ-модели, по его мнению, не могут развиваться изолированно от людей: технологии и социальные нормы неизбежно будут меняться одновременно.

Безопасность не должна становиться поводом для отказа от свободы

Руководитель OpenAI также предупредил об опасности чрезмерной реакции на возможный выход ИИ из-под контроля. Масштаб потенциальных угроз может настолько напугать политиков, компании и общество, что ради безопасности они согласятся на серьёзные ограничения.

Такой подход способен привести к созданию закрытой системы, в которой небольшое число организаций будет решать, кому доступны современные модели, какие задачи разрешается выполнять с их помощью и какие направления исследований допустимы.

Альтман не отрицает необходимость мер безопасности. Его позиция заключается в том, что защита от рисков не должна автоматически означать максимальную централизацию технологии. В противном случае борьба с одной угрозой создаст другую — потерю общественного контроля и сокращение личной свободы.

Заочная дискуссия с главой Anthropic

В своей речи Альтман не называл конкретных оппонентов. Однако Business Insider предположил, что его высказывания могли быть адресованы генеральному директору Anthropic Дарио Амодеи.

Амодеи неоднократно предупреждал, что быстрое совершенствование ИИ может создать угрозы для кибербезопасности, критически важной инфраструктуры и национальной безопасности. Anthropic выступает за более активное участие государства в контроле над наиболее мощными системами, включая независимые проверки и возможность блокировать особенно опасные способы развёртывания ИИ.

При этом позиция Anthropic сложнее, чем полный отказ от открытых моделей. Компания заявляет, что доступные сегодня модели с открытыми весами ещё не достигли уровня, который требовал бы широких ограничений. Однако в будущем, когда их возможности существенно возрастут, свободное распространение весов может привести к необратимым последствиям: однажды опубликованную модель практически невозможно отозвать или полностью удалить из общего доступа.

Почему открытые веса стали предметом спора

Модели с открытыми весами можно загружать, настраивать и запускать на собственной инфраструктуре без постоянного обращения к серверам разработчика. Это расширяет возможности независимых исследователей, небольших компаний и программистов, которым требуется больше контроля над технологией.

Открытые веса при этом не всегда означают полностью открытый исходный код. Компания может предоставить параметры обученной модели, но не раскрыть набор данных, подробности обучения или весь программный комплекс, использованный при её создании.

Сторонники такого подхода считают, что доступность моделей ускоряет исследования, поддерживает конкуренцию и уменьшает зависимость пользователей от нескольких крупных поставщиков. Противники предупреждают, что после публикации весов разработчик уже не сможет контролировать все способы применения системы, в том числе потенциально опасные.

Anthropic не присоединилась к отраслевому письму в поддержку открытых весов, подписанному рядом американских технологических компаний. Авторы инициативы утверждают, что Соединённым Штатам необходимо развивать открытую экосистему ИИ, поскольку подобные модели активно распространяются в Китае. В противном случае американские разработчики рискуют потерять часть технологического влияния.

OpenAI тоже выпускает открытые модели

Дискуссия проходит на фоне того, что сама OpenAI сочетает закрытый и открытый подходы. Наиболее передовые коммерческие системы компании остаются проприетарными, однако в 2025 году она представила модели gpt-oss-120b и gpt-oss-20b с открытыми весами.

Обе модели распространяются по лицензии Apache 2.0 и допускают локальное развёртывание, настройку и использование в собственных проектах. Тем самым OpenAI поддерживает доступность части своих технологий, но сохраняет контроль над наиболее производительными разработками.

Главный вопрос — кто будет определять будущее ИИ

Спор между крупнейшими ИИ-компаниями выходит далеко за пределы выбора между открытыми и закрытыми моделями. В центре дискуссии находится вопрос о том, кто должен устанавливать правила для технологии, способной заметно изменить экономику, рынок труда, образование, информационную среду и повседневную жизнь.

Альтман опасается, что решения будут принимать несколько корпораций или государственных структур. Амодеи и сторонники более строгого регулирования указывают на другой риск: слишком свободное распространение мощных моделей может дать опасные инструменты людям, которые намеренно используют их во вред.

Обе стороны признают, что искусственный интеллект требует мер безопасности. Расхождения начинаются при определении допустимого уровня контроля и того, сколько свободы общество готово отдать ради защиты от будущих угроз.