AI‑сервер Supermicro AS-2024US-TRT

Supermicro AS-2024US-TRT — восстановленный 2U AI‑сервер с тремя GPU NVIDIA A100 40GB, предназначенный для обучения и инференса современных ИИ‑моделей, дообучения (fine-tuning), развёртывания RAG‑систем, аналитики данных и HPC-задач. Суммарный объём видеопамяти 120 GB HBM2e (по 40 GB на GPU) позволяет эффективно работать с крупными LLM и мультимодальными моделями в 4‑ и 8‑битной квантизации, а также обеспечивает высокую производительность при вычислениях в FP16 и BF16. Поддержка NVLink и NCCL даёт возможность эффективного межGPU‑распараллеливания. Производительность GPU (суммарно на 3× A100): FP64 Tensor: 58.5 TFLOPS FP32 Tensor: 936 TFLOPS BF16 / FP16 Tensor: 1 872 TFLOPS INT8 Tensor: 3 744 TOPS Совместимость с LLM: DeepSeek-R1-Distill-Llama-70B (Q8) — ~81 GB VRAM — полная совместимость Qwen 3.5 122B (MOE / FP4) — ~68 GB VRAM — полная совместимость GPT-OSS 120B (FP16) — ~65 GB VRAM — полная совместимость Подходит для inference, reasoning-задач, генерации кода, аналитики и агентных систем. Совместимость с диффузионными моделями: Stable Diffusion 3 Medium — совместимо FLUX.1 (schnell / ONNX) — совместимо Stable Video Diffusion 1.1 — совместимо Kandinsky 5 (T2I / T2V) — совместимо Поддерживает генерацию изображений высокого разрешения и коротких видео с возможностью масштабирования на несколько GPU. Ограничения: Не поддерживает FP8 / FP4 (доступно в более новых поколениях GPU) Нет графических выходов — сервер ориентирован исключительно на вычисления Для максимальной эффективности требуется настройка multi-GPU (NVLink / NCCL) Детальная спецификация: CPU: 2× AMD EPYC 7713 (64C/128T, 2.0–3.675 ГГц) GPU: 3× NVIDIA A100 40GB HBM2e RAM: 16× 64 GB DDR4-3200 ECC REG (1 TB) SSD: 4× Intel D5-P5530 1.92 TB U.2 Форм-фактор: 2U Питание: 2× 1600 Вт 80+ Platinum Гарантия: 1 год