Власти США ужесточили правила доступа к передовым моделям искусственного интеллекта компании Anthropic после того, как специалисты Amazon сообщили о потенциальных рисках их использования в сфере кибератак. В результате американское правительство пришло к выводу, что существующих механизмов защиты недостаточно, а доступ к таким решениям необходимо ограничить для зарубежных пользователей.

Хотя первоначально речь шла о блокировке для иностранных государственных структур, организаций и частных лиц, Anthropic пошла значительно дальше требований регуляторов. Компания временно ограничила работу не только с моделью Fable 5, но и с более продвинутой системой Mythos, что вызвало обеспокоенность внутри самой компании и поставило под вопрос дальнейшее развитие ряда проектов.

Как возникла инициатива по ограничению доступа

Согласно данным The Wall Street Journal, одним из ключевых факторов, повлиявших на решение американских властей, стала информация, переданная генеральным директором Amazon Энди Джесси. По его словам, исследовательская команда компании смогла выявить способ обхода части встроенных ограничений модели Fable 5.

Проведённые испытания показали, что при использовании специальных запросов искусственный интеллект способен помочь в поиске программных уязвимостей и потенциально использоваться для подготовки кибератак. После обсуждения этих результатов представители американской администрации организовали серию консультаций, итогом которых стало решение ограничить доступ к технологии за пределами страны.

По имеющимся сведениям, инициатива получила поддержку на самом высоком государственном уровне и была утверждена президентом США Дональдом Трампом.

Позиция Anthropic

После переговоров с представителями правительства руководство Anthropic было вынуждено согласиться с новыми ограничениями, однако публично выразило несогласие с подобным подходом.

Компания утверждает, что существующие механизмы безопасности уже обеспечивают достаточный уровень защиты от злоупотреблений. Более того, в Anthropic считают, что обнаруженные Amazon сценарии не являются уникальными именно для Fable 5 и могут быть воспроизведены при помощи других современных языковых моделей, доступных на рынке.

Несмотря на это, разработчик решил действовать максимально осторожно и временно ограничил доступ не только к Fable 5, но и к модели Mythos, которая обладает расширенными возможностями анализа киберугроз и считается одним из наиболее мощных продуктов компании.

Какие последствия это создаёт для компании

Новые ограничения могут серьёзно повлиять на дальнейшую работу Anthropic. Одной из проблем является международный состав команды разработчиков: значительная часть специалистов компании является иностранными гражданами, что создаёт дополнительные сложности для доступа к ключевым инструментам и проведения исследований.

Ситуация также развивается на фоне подготовки компании к возможному первичному размещению акций (IPO), поэтому любые препятствия в развитии технологий и продуктовой линейки способны негативно сказаться на инвестиционной привлекательности бизнеса.

Дополнительное давление создаёт и продолжающееся напряжение в отношениях между Anthropic и американскими оборонными структурами, хотя источники подчёркивают, что нынешняя инициатива исходила не от Пентагона.

Что именно обнаружили специалисты Amazon

По данным источников, исследователи Amazon смогли добиться от Fable 5 выдачи информации, которая помогала выявлять уязвимости как минимум в четырёх программных продуктах. Однако независимые эксперты отмечают, что найденные слабые места нельзя назвать критически опасными с точки зрения современной кибербезопасности.

Главное беспокойство вызвал не сам факт обнаружения уязвимостей, а возможность использования модели для генерации вредоносного программного кода, способного эксплуатировать такие недостатки программного обеспечения.

При этом никаких подтверждений того, что специалистам Amazon удалось довести подобный сценарий до полноценной рабочей атаки, представлено не было.

Усиление контроля над ИИ продолжается

История с Fable 5 и Mythos стала очередным примером того, как власти США усиливают контроль над распространением наиболее мощных систем искусственного интеллекта. Регуляторы всё чаще рассматривают передовые модели не только как коммерческий продукт, но и как технологию, способную влиять на вопросы национальной безопасности.

Для Anthropic ситуация стала серьёзным вызовом: даже максимально осторожная политика распространения новых разработок не смогла защитить компанию от дополнительных ограничений со стороны государства. В ближайшие месяцы именно вопросы безопасности и контроля доступа к ИИ могут стать одним из ключевых факторов, определяющих развитие всей отрасли.