dstack

dstack.ai
На карте связей Открыть сайт

Платформа оркестрации контейнеров с открытым исходным кодом, адаптированная для рабочих нагрузок ИИ, обеспечивающая бесперебойное управление ресурсами GPU в облачной и локальной среде.

Описание

dstack — это оптимизированная альтернатива Kubernetes и Slurm, специально разработанная для упрощения оркестрации контейнеров для разработки, обучения и развертывания ИИ. Он поддерживает широкий спектр ускорителей, включая NVIDIA, AMD, Google TPU, Intel Gaudi и Tenstorrent, и бесперебойно работает с основными облачными провайдерами, а также с локальными кластерами. dstack предлагает унифицированные интерфейсы для управления средами разработки, планирования распределенных задач, развертывания масштабируемых сервисов моделей, управления ресурсами GPU-кластеров и управления томами постоянного хранения. Его конфигурация основана на YAML, что облегчает контроль версий и автоматизацию. Абстрагируя сложность инфраструктуры, dstack ускоряет рабочие процессы ИИ и снижает операционные затраты для команд машинного обучения.

Установка

Не знаете, с чего начать — попросите ассистента провести по шагам:

Возможности

Независимость от ускорителей и облаков
Поддерживает различные GPU и ускорители ИИ, такие как NVIDIA, AMD, TPU, Intel Gaudi и Tenstorrent, и интегрируется со всеми основными облачными провайдерами, а также с локальными серверами.
Унифицированные интерфейсы рабочих процессов ИИ
Предоставляет специальные конфигурации для сред разработки, планирования задач, развертывания сервисов с автомасштабированием, управления ресурсами и постоянных томов для охвата всего жизненного цикла ИИ.
Упрощенная конфигурация и автоматизация
Использует декларативные файлы YAML для определения сред, задач, сервисов и кластеров, применяемых через простой CLI или API, автоматизируя выделение ресурсов, масштабирование и настройку сети.
Экономичное управление мультиоблачными и локальными ресурсами
Обеспечивает гибкое использование облачных и локальных ресурсов без привязки к поставщику, оптимизируя использование GPU и облачные расходы.
Открытый исходный код с расширяемой экосистемой
100% открытый исходный код с активной разработкой, поддерживающий интеграцию с популярными фреймворками и инструментами ИИ, такими как PyTorch, HuggingFace и vLLM.

Сценарии использования

Интерактивные среды разработки
Быстрое развертывание удаленных сред разработки на основе GPU, доступных из десктопных IDE, для быстрого экспериментирования и кодирования.
Распределенное обучение и файн-тюнинг
Планирование и запуск сложных задач обучения на кластерах или отдельных узлах с поддержкой фреймворков, таких как DeepSpeed и HuggingFace Accelerate.
Развертывание моделей и инференс
Разворачивайте масштабируемые, безопасные и автоматически масштабируемые конечные точки моделей, совместимые с пользовательскими фреймворками обслуживания и API OpenAI.
Управление кластерами и ресурсами
Управление гетерогенными GPU-кластерами в облаке и локально, обеспечивая эффективное совместное использование ресурсов и масштабирование.
Постоянное хранилище для рабочих нагрузок ИИ
Использование сетевых томов для обеспечения постоянного хранения наборов данных, контрольных точек и кэша между несколькими запусками и средами.

Частые вопросы

dstack специально создан для ИИ, предлагая более простые и интуитивно понятные интерфейсы и функции, адаптированные для рабочих процессов машинного обучения, в отличие от Kubernetes, который является более универсальным и сложным.

dstack поддерживает ускорители NVIDIA, AMD, Google TPU, Intel Gaudi и Tenstorrent «из коробки».

Да, dstack бесперебойно работает с несколькими облачными провайдерами и локальными GPU-кластерами, обеспечивая гибридное развертывание.

Он обеспечивает автомасштабирование, безопасное развертывание сервисов с пользовательскими фреймворками обслуживания и конечными точками, совместимыми с OpenAI.

Да, dstack полностью открыт, активно разрабатывается и поддерживает интеграцию с популярными фреймворками ИИ и пользовательскими образами Docker.

Вы определяете конфигурации в YAML-файлах и применяете их через CLI или API dstack, автоматизируя выделение ресурсов и оркестрацию.

Да, dstack поддерживает планирование распределенных задач на кластерах с использованием любых фреймворков обучения с открытым исходным кодом.

dstack Sky — это управляемый сервис, который агрегирует GPU-ресурсы от нескольких облачных провайдеров, упрощая доступ и биллинг.

Характеристики

Тип Инструмент
КатегорияКодинг и разработка / Помощник DevOps ИИ
Цена есть бесплатный тариф
Платформа Только Linux
Системы linux
Хостингlocal
Установкаdesktop-app
Язык сайтаru
GitHubdstackai/dstack
Рейтинг5.00 (4 отзывов)
Просмотры8 777
Запуск2023-07-10

Платформы

linux

Теги

ai developer tools ai devops assistant

Соцсети

X GitHub Discord LinkedIn

Исходный код

dstackai/dstack

Найден в источниках

moge producthunt

Похожие в разделе «Кодинг и разработка»

ReDigest
ReDigest Продолжаем субботнюю рубрику, тут я кратко рассказываю про новости из мира технологий и AI, которые привлекли мое внимание.
OpenHands
Code less, make more
Bolt AI
Create apps and websites simply by talking to AI.
GitHub
Главный хостинг кода: репозитории, Actions, Copilot и почти все AI-проекты.
Codex 2.0 by OpenAI
Codex 2.0 — продвинутый ИИ для создания приложений и автоматизации задач. Ускорьте разработку с помощью нейросети от OpenAI.
Wispr Flow — это технологический оргазм
Список полезных сервисов... ... хотела подготовить я для вас. Решила собрать в один пост все сервисы, которые когда-ли

Предложить сайт в каталог

Пришлите ссылку — остальное мы выясним сами.

Мы рассмотрим, что вы прислали, и добавим в каталог, если подойдёт.