Размеры моделей искусственного интеллекта растут, а вместе с ними растут и требования к памяти. Возможность современных серверов использовать только физически подключённую к процессору память накладывает ограничение на объём обрабатываемых данных. Для расширения памяти приходится увеличивать число серверов, что ведёт к росту расходов и снижает эффективность использования ресурсов. Китайская компания Montage Technology сообщила о запуске опытного производства контроллера расширения памяти Compute Express Link (CXL) 3.2 (MXC) для решения этой проблемы.

Предлагаемый чип будет работать как мост между процессором и внешней памятью. Это позволит серверам использовать большие пулы памяти вместо только локальной памяти. В результате инфраструктура искусственного интеллекта может стать более гибкой и масштабируемой.

CXL представляет собой открытый стандарт, дающий процессорам, памяти и ускорителям возможность взаимодействовать по высокоскоростным соединениям PCI Express. Контроллер Montage основан на последней версии этой спецификации и имеет продвинутые возможности, включая объединение памяти и многоуровневые архитектуры памяти.

Изображение: Andy/Getty Images

Контроллер поддерживает протоколы CXL.mem и CXL.io, а также PCIe 6.x, обеспечивая скорость передачи данных до 64 ГТ/с. Он содержит два контроллера памяти DDR5, которые обеспечивают работу на скорости до 8000 МТ/с.

При запросе данных процессором чип преобразует запросы памяти CXL в команды DDR5, извлекает необходимую информацию и отправляет её обратно в режиме реального времени. В результате серверы получают доступ к увеличенным объёмам памяти. Поддерживаются несколько форматов развёртывания, в том числе дополнительные платы PCIe (AIC) и модули стандартного форм-фактора для предприятий и центров обработки данных (EDSFF).

Разработчики сообщили, что контроллер успел войти в состав продуктов CXL следующего поколения от Samsung и SK hynix. Также чип поддерживает серверные платформы на процессорах Intel Xeon и AMD EPYC.