«Турбо Облако» усилило инфраструктуру для ИИ-задач графическими ускорителями нового поколения

NVIDIA RTX PRO 6000 построен на архитектуре Blackwell, получил тензорные ядра пятого поколения и поддерживает разные форматы вычислений. GPU подходит для запуска больших языковых моделей, включая локальный инференс моделей до 70 млрд параметров, а также для их адаптации и более тонкой настройки под конкретные задачи в рамках одного узла, квантования, разработки RAG-систем и ИИ-ассистентов. При этом возможности графического ускорителя не ограничиваются машинным обучением: он рассчитан также на профессиональную графику, 3D-визуализацию, рендеринг и обработку видео.

Одна из главных особенностей RTX PRO 6000 Blackwell — 96 ГБ видеопамяти, которые позволяют размещать ИИ-модели на одном GPU и оставлять достаточно памяти для его работы. В некоторых сценариях это снижает необходимость распределять одну модель между несколькими ускорителями и упрощает конфигурацию инфраструктуры.

Ещё одна особенность RTX PRO 6000 Blackwell — аппаратная поддержка FP4. Это формат вычислений с меньшей разрядностью, чем FP8 и FP16. Меньшая разрядность позволяет снизить требования к памяти и в подходящих сценариях повысить эффективность вычислений. При этом ускоритель поддерживает и другие форматы — FP8, FP16 и FP32, поэтому его можно использовать для разных вычислительных нагрузок.

В «Турбо Облаке» доступны конфигурации от одного до восьми RTX PRO 6000 Blackwell в одной виртуальной машине. Для GPU предусмотрен выделенный доступ без соседей на инстансе, высокопроизводительное хранилище и высокоскоростной сетевой интерфейс. Для работы с ИИ в сервисе доступны готовые образы с CUDA, PyTorch, TensorFlow, vLLM и Triton Inference Server — можно использовать привычный стек без самостоятельной подготовки базового окружения.

NVIDIA RTX PRO 6000 Blackwell дополняет доступные в «Турбо Облаке» L40S и H200. Ускоритель L40S ориентирован на инференс моделей среднего размера, графику и рендеринг, а H200 рассчитан на более ресурсоёмкие сценарии, включая крупномасштабное обучение и инференс тяжёлых моделей в составе ИИ-кластеров.

Татьяна Миронова, директор по продуктам компании «Турбо Облако»:

«Мы расширяем GPU-инфраструктуру, чтобы клиенты могли выбирать вычислительные ресурсы под конкретные задачи и не переплачивать за избыточную мощность. RTX PRO 6000 Blackwell занимает отдельную нишу между универсальными GPU для инференса и профессиональной графики и более мощными ускорителями для тяжёлых ИИ-нагрузок. Это позволяет использовать одну инфраструктуру для разных этапов работы — от разработки и тестирования до запуска продуктивных нагрузок. При этом клиентам не нужно заранее инвестировать в собственную ресурсы: необходимые мощности можно получить в облаке и масштабировать их по мере роста нагрузки».