dstack

Description

dstack — это оптимизированная альтернатива Kubernetes и Slurm, специально разработанная для упрощения оркестрации контейнеров для разработки, обучения и развертывания ИИ. Он поддерживает широкий спектр ускорителей, включая NVIDIA, AMD, Google TPU, Intel Gaudi и Tenstorrent, и бесперебойно работает с основными облачными провайдерами, а также с локальными кластерами. dstack предлагает унифицированные интерфейсы для управления средами разработки, планирования распределенных задач, развертывания масштабируемых сервисов моделей, управления ресурсами GPU-кластеров и управления томами постоянного хранения. Его конфигурация основана на YAML, что облегчает контроль версий и автоматизацию. Абстрагируя сложность инфраструктуры, dstack ускоряет рабочие процессы ИИ и снижает операционные затраты для команд машинного обучения.