Исследователи из Китая продемонстрировали необычный подход к ускорению работы искусственного интеллекта. Вместо разработки новых, более производительных процессоров они сосредоточились на оптимизации передачи данных между вычислительными модулями. Результат оказался впечатляющим: экспериментальная система справилась с задачей обработки нейросети почти в 149 раз быстрее, чем современный графический процессор, несмотря на значительно меньшую вычислительную мощность.

Работа показывает, что дальнейшее развитие искусственного интеллекта зависит не только от роста производительности чипов, но и от грамотной архитектуры вычислительных систем. Особенно актуально это для Китая, который из-за экспортных ограничений США вынужден искать новые способы повышения эффективности без доступа к самым современным ускорителям.

Ставка не на мощность, а на организацию вычислений

Проект разработали специалисты Пекинского университета (Peking University).

В основе экспериментальной платформы использовались не графические ускорители, а пять программируемых логических матриц FPGA (ПЛИС), соединённых между собой высокоскоростными кремниевыми фотонными передатчиками и оптическим коммутатором.

Во время испытаний система выполняла задачу шумоподавления изображений значительно быстрее эталонного GPU, хотя её собственная вычислительная производительность составляла всего 1,97 Тфлопс против 16,96 Тфлопс у графического процессора — примерно 11,6 % от его мощности.

В чём секрет такого ускорения

Ключевым преимуществом новой архитектуры стала так называемая конвейерная обработка.

Каждая из пяти FPGA отвечала только за один слой свёрточной нейронной сети. После обработки данные мгновенно передавались следующему вычислительному модулю по оптическому соединению.

Такой подход позволил полностью отказаться от постоянной записи промежуточных результатов во внешнюю память и их последующего считывания.

Именно обмен данными между памятью и вычислительными блоками считается одной из главных причин снижения производительности современных GPU. Этот эффект часто называют «стеной памяти» (Memory Wall).

Устранив лишние операции с памятью, исследователи смогли существенно сократить общее время обработки.

Как устроена экспериментальная система

Каждый вычислительный модуль соединялся с остальными через кремниевые фотонные трансиверы со скоростью 400 Гбит/с.

Передача информации осуществлялась по одному оптоволокну сразу на четырёх длинах волн — по 100 Гбит/с на каждый канал.

За коммутацию отвечал оптический коммутатор формата 16 × 16, который обладает потерями менее 5 дБ и способен объединять до 16 вычислительных чипов с общей пропускной способностью до 6,4 Тбит/с.

Такая архитектура позволяет практически без задержек передавать результаты вычислений между отдельными процессорами.

Результаты испытаний

Для проверки возможностей платформы исследователи использовали простую пятислойную свёрточную нейросеть с ядрами 5 × 5, обученную на популярном наборе данных Fashion-MNIST.

Во время эксперимента система обработала 1000 изображений размером 32 × 32 пикселя всего за 105,16 микросекунды.

Для сравнения, современному графическому процессору на выполнение аналогичной задачи потребовалось 15,643 миллисекунды.

При этом загрузка вычислительных ресурсов FPGA достигла 94,7 %, что говорит об очень высокой эффективности использования аппаратных возможностей.

Пока это лишь демонстрация технологии

Несмотря на впечатляющие результаты, говорить о революции пока рано.

Эксперимент проводился на относительно небольшой нейронной сети, значительно уступающей по сложности современным генеративным моделям и большим языковым моделям (LLM), которые используются в популярных ИИ-сервисах.

Пока неизвестно, насколько эффективно подобная архитектура сможет работать с многомиллиардными моделями, требующими огромных объёмов памяти и значительно более сложного обмена данными.

Почему эта работа может оказаться очень важной

Сегодня развитие искусственного интеллекта всё чаще ограничивается не вычислительной мощностью процессоров, а скоростью обмена информацией между ними и памятью.

Именно поэтому многие специалисты считают, что дальнейший прогресс будет связан не столько с созданием более быстрых чипов, сколько с совершенствованием архитектуры вычислительных систем, межсоединений и алгоритмов обработки данных.

Для Китая подобные исследования имеют особое значение. Ограниченный доступ к передовым ускорителям вынуждает местные компании искать альтернативные пути развития, и оптимизация существующих решений становится одним из наиболее перспективных направлений.

Кроме увеличения скорости работы нейросетей, подобные технологии способны значительно снизить энергопотребление дата-центров и уменьшить задержки при выполнении сложных вычислений, что особенно важно для систем искусственного интеллекта нового поколения.