
GIGABYTE G294-Z42-AAP2 (4× RTX PRO 6000 BSE 96GB, 2× EPYC 9115, RAM 768GB)
22 029 800 ₽
Цена ориентировочная. Информация в каталоге не является публичной офертой.
- Артикул
- SF-19925
- Наличие
- Уточняется
- Обновлено
- 12.11.2026
Поставки организациям и ИП для бизнеса. Для оформления заказа свяжитесь с менеджером и согласуйте итоговую цену, комплектацию и наличие. Контакты менеджера
Характеристики
- Тип
- Новые
- Основная задача
- Обучение моделей / Инференс / Дообучение моделей / RAG-системы / Визуализация и рендеринг
- Процессор (CPU)
- AMD EPYC
- Видеокарта (GPU)
- NVIDIA RTX PRO 6000 Blackwell
- Количество GPU, шт
- 4
- Общий объем видеопамяти (VRAM), ГБ
- 384
- Тип памяти GPU
- GDDR7
- Объем оперативной памяти (RAM), ГБ
- 768
- Тип оперативной памяти
- DDR5 ECC REG
- Форм-фактор
- 2U
- Тип точности Совокупная мощность четырех RTX PRO 6000 BSE
- Совокупная мощность четырех RTX PRO 6000 BSE
- FP32
- 480 TFLOPS
- FP4
- 16 PFLOPS
- RT Core performance*
- 1420 TFLOPS
- Платформа
- GIGABYTE G294-S42-AAP2
- Видеокарта
- 4x NVIDIA RTX PRO 6000 Blackwell Server Edition 96GB GDDR7
- Процессор
- 2x AMD EPYC 9115 (16c/32t, 2.6GHz-4.1GHz, 155W)
- Оперативная память
- 12x 64GB DDR5 ECC REG Samsung 6400Mhz 2Rx4
- SSD накопитель
- 4x Intel D5-P5530 1.92TB 2.5" U.2
Описание
2U GPU-сервер на 2× AMD EPYC 9115 с 4× NVIDIA RTX PRO 6000 Blackwell Server Edition 96GB (суммарно 384GB VRAM), оптимальный для Инференса / Развертывания (Inference), RAG-систем (Retrieval-Augmented Generation), Дообучения моделей (Fine-tuning) и Обучения моделей (Training) в рамках одного узла. Большой объём VRAM позволяет держать крупные модели и длинный контекст, а 768GB RAM - эффективно работать с большими датасетами, индексами RAG и кешами.
Blackwell и 96GB на каждую GPU дают запас под высокий QPS: можно масштабировать параллельные диалоги, увеличивать KV-cache и не “резать” контекст. Для продакшна удобно запускать LLM через vLLM/TensorRT-LLM, а для обучения/дообучения - PyTorch + FSDP/DeepSpeed.
Особенность конфигурации - мощная CPU-подсистема EPYC (много ядер/памяти) для ETL, векторных БД и подготовки данных, при этом тяжёлые LLM/диффузия остаются на GPU.
Производительность GPU
| Тип точности | Совокупная мощность четырех RTX PRO 6000 BSE |
| FP32 | 480 TFLOPS |
| FP4 | 16 PFLOPS |
| RT Core performance* | 1420 TFLOPS |
*-RT Core performance - это пиковая производительность специализированных RT-ядер (Ray Tracing Cores), которые аппаратно ускоряют операции трассировки лучей (поиск пересечений луча с геометрией и обход BVH). Показатель важен для визуализации/рендеринга и некоторых графических/3D-пайплайнов, но не является прямым аналогом FP32/AI-производительности.
Совместимость с LLM-моделями
| Модель | Тип квантизации | Требуется VRAM | Совместимость | Примечание |
| DeepSeek-R1-Distill-Llama-70B | Нет | Примерно 141GB | ✅ | На Z42-AAP2 (4×96GB) уверенно в multi-GPU (2–4 GPU). Запас VRAM - под KV-cache и высокий QPS. |
| Qwen3.8-27B | Нет | Примерно 55.6GB | ✅ | Хорошо подходит под 4×96GB: остаётся запас под контекст/батч. Отлично для чата и RAG. |
| gpt-oss:120b | Нет (FP16) | Примерно 260GB | ✅ | Комфортный продакшн-инференс на 4 GPU: можно держать большой контекст и несколько сессий одновременно. |
| Mistral-Large-3-675B-Instruct-2512-GGUF | IQ4_XS | Примерно 360GB | ⚠️ | Запуск возможен, но почти без запаса: ограничьте контекст и параллельность (KV-cache критичен). |
| GLM-5.3-Flash | Нет | Примерно 328GB | ✅ | Близко к лимиту 384GB: нужен умеренный контекст/KV-cache и ограничение числа одновременных диалогов. |
| GigaChat3.5-432B-A28B-GGUF | Q4_K_M | Примерно 262GB | ✅ | Отлично подходит для reasoning, кода, анализа текста и ассистентских задач. |
| NVIDIA-Nemotron-3-Super-120B-A12B-NVFP4 | NVFP4 (FP4 для NVIDIA) | Примерно 80.4GB | ✅ | Удобна для параллельного запуска нескольких инстансов, работы с длинным контекстом и высокой плотности запросов. |
| MiniMax-M3 | UD-Q4_K_M | Примерно 264GB | ✅ | Квантизированная версия с заметно меньшим объёмом; удобна для серверов с ограниченным запасом памяти, RAG-сценариев, ассистентов и локальных LLM-сервисов. |
| MiMo-V2.5 | Нет | Примерно 316GB | ✅ | Базовая версия среднего объёма для серверов с хорошим запасом памяти; подходит для RAG, корпоративных ассистентов, генерации текста и стабильного инференса без квантизации. |
Совместимость с диффузионными моделями
| Модель | Тип | Совместимость | Примечание |
| Stable Diffusion XL 1.0 | Текст в изображение | ✅ | High-res, refiner, инпейтинг/апскейл без дефицита VRAM; легко параллелить по 4 GPU. |
| Flux.2-dev | Текст в изображение | ✅ | 96GB на GPU - комфорт для high-res и батчей; стабильный throughput при распределении задач по GPU. |
| SD Turbo | Быстрые предпросмотры | ✅ | Максимальная скорость итераций: много параллельных предпросмотров/серийных кадров на одном узле. |
| Kandinsky-5.0-T2I-Lite-sft-Diffusers | Текст в изображение | ✅ | Лёгкая модель: высокий QPS, несколько пайплайнов одновременно; большой запас VRAM под качество. |
| Kandinsky-5.0-T2V-Lite-sft-5s-Diffusers | Текст в видео | ✅ | Удобно параллелить по 4 GPU: пакетная генерация коротких видео/серийных кадров без очередей. |
| NVIDIA-Cosmos3-Super | Генерации, анализа и симуляции физического мира, которая может работать с текстом, изображениями, видео и действиями | ✅ | Модель объёмом 133 GB для генерации, анализа и симуляции физического мира. Работает с текстом, изображениями, видео и действиями, поэтому подходит для сложных мультимодальных сценариев. Требует высокой производительности и большого объёма видеопамяти, а стабильность запуска зависит от конкретной конфигурации и настроек оптимизации. |
Технические характеристики
| Платформа | GIGABYTE G294-S42-AAP2 |
| Видеокарта | 4x NVIDIA RTX PRO 6000 Blackwell Server Edition 96GB GDDR7 |
| Процессор | 2x AMD EPYC 9115 (16c/32t, 2.6GHz-4.1GHz, 155W) |
| Оперативная память | 12x 64GB DDR5 ECC REG Samsung 6400Mhz 2Rx4 |
| SSD накопитель | 4x Intel D5-P5530 1.92TB 2.5" U.2 |