
ASRock Rack 6U8X-EGS2 H100 (8× H100 SXM 80GB)
43 798 100 ₽
Ориентировочная цена. Требует подтверждения.
- Артикул
- SF-20739
- Наличие
- Уточняется
- Обновлено
- 12.11.2026
Сейчас доступен просмотр каталога. Приём заказов скоро откроется.
Характеристики
- Тип
- Новые
- Основная задача
- Обучение моделей / Инференс / Дообучение моделей / RAG-системы / Анализ данных / Научные расчеты (HPC)
- Процессор (CPU)
- Intel Xeon
- Видеокарта (GPU)
- NVIDIA H100
- Количество GPU, шт
- 8
- Общий объем видеопамяти (VRAM), ГБ
- 640
- Тип памяти GPU
- HBM3
- Объем оперативной памяти (RAM), ГБ
- 8192
- Тип оперативной памяти
- DDR5 ECC REG
- Форм-фактор
- 6U
- Тип точности Совокупная мощность восьми H100 SXM
- Совокупная мощность восьми H100 SXM
- FP64 Tensor Core
- 536 TFLOPS
- FP8 Tensor Core
- 31 664 TFLOPS
- BF16 / FP16 Tensor Core
- 15 832TFLOPS
- TF32 Tensor Core
- 7 912 TFLOPS
- INT8 Tensor Core
- 31 664 TOPS
- Видеокарта
- 8x Nvidia H100 SXM 80GB HBM3
- Процессор
- 2× Intel Xeon Scalable 4th и 5th Gen в сокетах LGA 4677
- Оперативная память
- до 8TB DDR5 ECC RDIMM, 32 DIMM-слотах
- SSD накопители
- 8 hot-swap 2.5" NVMe (PCIe 5.0 x4) и 4 hot-swap 2.5" NVMe (PCIe 5.0 x4) или SATA, плюс 2 слота M.2 (PCIe 3.0 x4, один также поддерживает SATA 6Gb/s)
Описание
Конфигурация рассчитана на Обучение моделей (Training), Дообучение моделей (Fine-tuning) и Инференс / Развертывание (Inference), когда важны стабильная работа на 8 GPU и высокий throughput в продакшне. Также хорошо подходит под RAG-системы (Retrieval-Augmented Generation) и HPC / Научные расчёты за счёт плотной связности ускорителей внутри HGX.
Узел построен на NVIDIA HGX H100 8-GPU с NVSwitch, в этой сборке используется 8× H100 SXM 80GB, суммарно 640GB VRAM. Это позволяет держать большие батчи и длинный контекст, а ускорение FP16/FP8/INT8 помогает масштабировать как обучение, так и serving.
Для предсказуемой нагрузки обычно выигрывает распределение по 4–8 GPU и аккуратные лимиты по контексту и батчу, чтобы оставлять запас под KV-cache и служебный оверхед при высоком параллелизме.
Платформа поддерживает два процессора Intel Xeon Scalable 4th и 5th Gen в сокетах LGA 4677. Для памяти предусмотрено 32 DIMM слота (16+16, 2DPC) с поддержкой DDR5 RDIMM и RDIMM-3DS, при этом максимальный объём - до . Для накопителей доступны 8 hot-swap 2.5" NVMe (PCIe 5.0 x4) и 4 hot-swap 2.5" NVMe (PCIe 5.0 x4) или SATA, плюс 2 слота M.2 (PCIe 3.0 x4, один также поддерживает SATA 6Gb/s).
Производительность GPU
| Тип точности | Совокупная мощность восьми H100 SXM |
| FP64 Tensor Core | 536 TFLOPS |
| FP8 Tensor Core | 31 664 TFLOPS |
| BF16 / FP16 Tensor Core | 15 832TFLOPS |
| TF32 Tensor Core | 7 912 TFLOPS |
| INT8 Tensor Core | 31 664 TOPS |
Совместимость с LLM-моделями
| Модель | Тип квантизации | Требуется VRAM | Совместимость | Примечание |
| DeepSeek-R1-GGUF 685B | Q4_K_M | Примерно 404GB | ✅ | Лучше запускать с tensor parallel на 8 GPU и умеренным контекстом, чтобы оставить запас под KV-cache. | Qwen3.5-397B-A17B-FP8/td> | FP8 | Примерно 406GB | ✅ | Запускается без квантизации на 8 GPU, можно повышать батчи и параллельные запросы с запасом VRAM. |
| Gpt-oss:120b | Нет | Примерно 196GB | ✅ | Комфортно на 2–4 GPU с большим запасом под длинные диалоги и высокий QPS. | GigaChat3.5-432B-A28B | Нет | Примерно 438GB | ✅ | Оптимально распределять по 4–8 GPU и держать разумный контекст, чтобы не упираться в KV-cache на пике. |
| Mistral-Large-3-675B-Instruct-2512-GGUF | Q4_K_M | Примерно 407GB | ✅ | Хорошо масштабируется на 4–8 GPU, запас VRAM лучше держать под контекст и рост batch size. |
| GLM-5-GGUF | Q4_K_M | Примерно 456GB | ✅ | Стабильный продакшн запуск на 2–4 GPU с запасом VRAM под параллельные сессии. |
| Kimi-K2.7-Code | Нет | Примерно 595GB | ✅ | Полноразмерная версия для мощных GPU-серверов; подходит для reasoning-задач, RAG, агентных рабочих процессов и производственного инференса с высоким запасом качества. |
| MiniMax-M3 | UD-Q4_K_M | Примерно 264GB | ✅ | Квантизированная версия с заметно меньшим объёмом; удобна для серверов с ограниченным запасом памяти, RAG-сценариев, ассистентов и локальных LLM-сервисов. |
| MiMo-V2.5-Pro-GGUF | UD_Q4_K_M | Примерно 630GB | ✅ | Квантизированная Pro-версия для более гибкого размещения на серверных конфигурациях с разным объёмом памяти; подходит для RAG, reasoning-задач и производственных LLM-сервисов. |
Совместимость с диффузионными моделями
| Модель | Тип | Совместимость | Примечание |
| Stable Diffusion XL 1.0 | Текст в изображение | ✅ | Можно держать высокие разрешения и несколько пайплайнов параллельно на разных GPU. |
| Flux.2-dev | Текст в изображение | ⚠️ | Обычно нужен multi-GPU режим или оптимизации памяти, затем throughput удобно масштабировать по 8 GPU. |
| SD Turbo | Быстрые предпросмотры | ✅ | Подходит для массовых предпросмотров с высокой параллельностью и минимальной задержкой. |
| Kandinsky-5.0-T2I-Lite-sft-Diffusers | Текст в изображение | ✅ | Лёгкая модель, удобно запускать много параллельных задач и повышать batch. |
| Kandinsky-5.0-T2V-Lite-sft-5s-Diffusers | Текст в видео | ✅ | Пакетные короткие ролики удобно распараллеливать по GPU для стабильной очереди. |
| NVIDIA-Cosmos3-Super | Генерации, анализа и симуляции физического мира, которая может работать с текстом, изображениями, видео и действиями | ✅ | Модель объёмом 133 GB для генерации, анализа и симуляции физического мира. Работает с текстом, изображениями, видео и действиями, поэтому подходит для сложных мультимодальных сценариев. Требует высокой производительности и большого объёма видеопамяти, а стабильность запуска зависит от конкретной конфигурации и настроек оптимизации. |
Технические характеристики
| Видеокарта | 8x Nvidia H100 SXM 80GB HBM3 |
| Процессор | 2× Intel Xeon Scalable 4th и 5th Gen в сокетах LGA 4677 |
| Оперативная память | до 8TB DDR5 ECC RDIMM, 32 DIMM-слотах |
| SSD накопители | 8 hot-swap 2.5" NVMe (PCIe 5.0 x4) и 4 hot-swap 2.5" NVMe (PCIe 5.0 x4) или SATA, плюс 2 слота M.2 (PCIe 3.0 x4, один также поддерживает SATA 6Gb/s) |
Если нужна конфигурация на эту платформу под ваши задачи - свяжитесь с менеджером, и мы предложим подходящий вариант под бюджет и требования.