ИИ API
Salad
Salad — это распределённое GPU-облако, предлагающее недорогие геораспределённые вычисления для AI, inference, training и других GPU-интенсивных задач.
Salad
Что такое Salad?
Salad — это распределённая платформа GPU-облака, которая предоставляет доступ к большому числу consumer GPU через глобальную сеть узлов. Платформа ориентирована на AI inference, обучение моделей, batch processing, rendering и другие GPU-интенсивные workloads, предлагая оплату по факту использования и развёртывание на основе контейнеров.
Как использовать Salad?
- 1Создайте аккаунт Salad и свяжитесь с отделом продаж, если вам нужна скидка при высоком объёме.
- 2Выберите тип GPU и количество, подходящие для вашей нагрузки.
- 3Упакуйте приложение в Docker-контейнер для Salad Container Engine.
- 4Разверните workload в SaladCloud и отслеживайте доступность, масштабирование и interruptions.
- 5Масштабируйте вверх или вниз по мере изменения спроса, не управляя отдельными VM.
Salad Ключевые возможности
- Распределённое GPU-облако с геораспределёнными узлами
- Развёртывание Docker-контейнеров через Salad Container Engine
- Оплата по факту использования с низкими стартовыми тарифами
- Поддержка inference и batch workloads в большом масштабе
- Совместимое с multi-cloud развёртывание
- Автоматическое перераспределение workload при выходе узлов из строя
- Изоляция безопасности с зашифрованными контейнерами
- Не требуется управление VM
Salad Сценарии использования
- AI inference в масштабе
- Обучение и дообучение моделей
- Генерация text-to-image
- Speech-to-text transcription
- Computer vision workloads
- Развёртывание LLM
- Batch processing и rendering
- HPC-style GPU workloads
Salad Цены и бесплатный доступ
Модель оплаты Salad: Платно, Индивидуальная цена.
Salad Плюсы и минусы
Плюсы
- Очень низкие стартовые цены на GPU
- Большая распределённая сеть GPU
- Хорошо подходит для масштабируемого AI inference
- Развёртывание на базе Docker упрощает настройку
- Оплата по факту использования без предоплаты
Минусы
- Доступность GPU может прерываться, как у spot capacity
- Более долгие cold starts, чем у типичных cloud GPU
- Максимальный объём vRAM в сети ограничен 24 GB
- Не идеально для задач с экстремально низкой задержкой
Для чего лучше всего подходит Salad?
- AI-команды, которым нужен недорогой GPU inference
- Стартапы, быстро масштабирующие workloads моделей
- Разработчики, разворачивающие контейнеризированные GPU-приложения
- Бизнесы, ищущие более дешёвую альтернативу крупным облакам
- Задачи, которые могут переносить interruptions, похожие на spot