GPGPU-платформа Delta Sprut XL для современных задач

Обучение крупных языковых моделей требует от аппаратной платформы двух принципиально разных видов производительности одновременно. Первый — вычислительная мощность GPU для матричных операций. Второй — пропускная способность шины между ускорителями. Именно второй параметр становится узким местом при увеличении числа ускорителей сверх восьми-шестнадцати штук в стандартных серверных платформах.

GPGPU-платформа Delta Sprut XL решает эту задачу через модульную архитектуру, принципиально отличающуюся от типичных GPU-серверов. Ускорители устанавливаются не в слоты материнской платы, а в отдельные модули, каждый из которых имеет собственную систему охлаждения.

Каждые четыре ускорителя NVIDIA H200 объединяются по шине NVLink, обеспечивающей высокоскоростной обмен данными между GPU без прохождения через системную шину PCIe. Это устраняет классическое узкое место при масштабировании GPU-кластера и позволяет модели обмениваться активациями и градиентами на скорости, достаточной для эффективного параллельного обучения.

Особенности и преимущества решения

• Масштабирование в одном корпусе охватывает диапазон от корпоративного инференса до кластерного обучения.
• Оборудование предлагает необходимый объём системной памяти для предобработки данных и хранения промежуточных состояний при обучении.
• Процессоры с поддержкой до ста семидесяти двух производительных ядер обеспечивают CPU-часть пайплайна обработки данных без создания вычислительного дисбаланса с GPU-подсистемой.
• Широкая телеметрия и мониторинг состояния платформы позволяют отслеживать загрузку каждого ускорителя, температурный режим и состояние питания в реальном времени.

Технические характеристики: GPGPU-платформа Delta Sprut XL

Смотрите также:

Коммутатор Delta Firebird

PCIe-коммутатор, позволяющий объединять серверы, GPGPU-платформы, дисковые массивы и прочие устройства в единый комплекс по интерфейсу PCIe Gen5

Цена по запросу

GPGPU-платформа Delta Sprut

Российская платформа, созданная для задач искусственного интеллекта, машинного обучения, моделирования и 3D VDI инфраструктуры

Цена по запросу