«Яндекс» представил Alice AI Foundation LLM — новую большую языковую модель, полностью обученную с нуля и опубликованную в открытом доступе. Разработка ориентирована на программирование, логические рассуждения, работу с фактами и будущие агентные сценарии. Модель распространяется по лицензии Apache 2.0, поэтому её можно использовать не только для исследований, но и в коммерческих продуктах.

Главная особенность Alice AI Foundation LLM — сочетание крупного общего размера с относительно небольшими вычислительными требованиями при работе. Модель содержит 80 млрд параметров, однако благодаря архитектуре Mixture of Experts одновременно задействует только около 3 млрд. По данным «Яндекса», это позволяет ей в ряде тестов конкурировать с гораздо более крупными открытыми моделями, а в некоторых задачах — превосходить их.

80 млрд параметров, но одновременно работают только 3 млрд

В основе Alice AI Foundation LLM лежит архитектура Mixture of Experts, или MoE. Вместо использования всей нейросети для обработки каждого запроса система активирует только необходимую часть своих параметров.

Всего модель насчитывает 80 млрд параметров, но для конкретной операции задействуется примерно 3 млрд. Такой подход позволяет совместить большой объём заложенных в модель возможностей с более умеренными требованиями к вычислительным ресурсам во время инференса.

При разработке особое внимание уделялось способности модели рассуждать, решать сложные логические задачи и работать с программным кодом. Эти возможности также рассматриваются как основа для будущих ИИ-агентов.

В математике и программировании модель конкурирует с более крупными системами

По результатам опубликованных «Яндексом» испытаний, Alice AI Foundation LLM показывает высокий результат при решении олимпиадных математических задач. В этой категории она разделила лидирующую позицию с Qwen3.5-35B-A3B-Base.

В тестах, связанных с генерацией программного кода, модель «Яндекса» опередила Nvidia Nemotron-3-Super-120B-Base. При этом у Alice AI Foundation LLM примерно в четыре раза меньше одновременно активных параметров.

Компания также сообщает о сильных результатах в заданиях, требующих широкого набора фактических знаний. В таких тестах Alice AI Foundation LLM смогла превзойти DeepSeek-V4-Flash-Base, содержащую 284 млрд параметров, из которых 13 млрд используются одновременно.

Стоит учитывать, что эти сравнения основаны на результатах тестирования, опубликованных самим «Яндексом», а показатели отдельных бенчмарков не обязательно напрямую отражают производительность моделей во всех реальных сценариях.

Новая открытая модель приблизилась к прежней закрытой Alice AI LLM

Интересным результатом стало сравнение с предыдущей собственной моделью компании. Согласно представленным данным, новая Alice AI Foundation LLM демонстрирует сопоставимое качество с закрытой Alice AI LLM.

При этом предыдущая система имеет примерно втрое больше параметров, а количество одновременно активных параметров у неё приблизительно в семь раз выше.

Таким образом, одной из ключевых задач новой архитектуры стала не просто гонка за размером нейросети, а повышение эффективности использования вычислительных ресурсов.

Отдельные тесты для русского языка

Для проверки знаний, наиболее актуальных именно для русскоязычных пользователей, «Яндекс» разработал два собственных набора тестов — WikiWebFacts и HardMultiQA.

WikiWebFacts построен вокруг коротких вопросов и таких же кратких ответов. С его помощью проверяется знание фактов: дат, событий, определений, известных персон и другой информации. При подготовке набора использовались материалы онлайн-энциклопедий и агрегированные данные о популярных поисковых запросах.

HardMultiQA предназначен для более сложной проверки. Его сформировали на основе анонимизированного потока запросов пользователей «Алисы AI». В него вошли в том числе вопросы из менее распространённых областей знаний.

Создание собственных русскоязычных бенчмарков в компании объясняют тем, что преимущественно англоязычные тесты не всегда позволяют объективно оценить качество модели на знаниях и запросах, характерных для русскоязычной аудитории.

Обучение модели удалось заметно ускорить

Работа над Alice AI Foundation LLM затронула не только архитектуру самой нейросети. Инженеры «Яндекса» доработали оптимизатор, управляющий процессом её обучения.

По информации компании, внесённые изменения позволили примерно в два раза ускорить оптимизацию. Одновременно был переработан процесс подготовки качественных данных, используемых при обучении модели.

Для больших языковых моделей подобные улучшения особенно важны: увеличение эффективности обучения позволяет проводить больше экспериментов с архитектурой без пропорционального роста вычислительных затрат.

Alice AI Foundation LLM станет полигоном для будущих разработок

Нынешнюю Alice AI Foundation LLM компания позиционирует прежде всего как экспериментальную модель. На ней разработчики намерены проверять архитектурные решения, которые впоследствии могут использоваться при создании единой рассуждающей модели «Яндекса».

Одним из ключевых направлений станут ИИ-агенты. Предполагается, что развитие этой технологии позволит «Алисе AI» не только отвечать на вопросы, но и выполнять порученные пользователем многоэтапные задачи.

При этом открытая публикация модели даёт возможность использовать её независимо от сервисов самой компании. Благодаря лицензии Apache 2.0 разработчики могут экспериментировать с Alice AI Foundation LLM, исследовать её возможности и применять модель в собственных проектах, включая коммерческие.