AI API
Salad
Salad は、AI、推論、学習、その他 GPU を多用するワークロード向けに、低コストで地理分散型のコンピュートを提供する分散 GPU クラウドです。
Salad
Saladとは
Salad は、グローバルなノードネットワーク上の多数のコンシューマー向け GPU へのアクセスを提供する分散 GPU クラウドプラットフォームです。AI 推論、モデル学習、バッチ処理、レンダリング、その他 GPU を多用するワークロード向けに、従量課金とコンテナベースのデプロイを特徴としています。
Saladの使い方
- 1Salad アカウントを作成し、割引の大量利用価格が必要な場合は営業に連絡します。
- 2ワークロードに合う GPU の種類と数量を選択します。
- 3Salad Container Engine 用にアプリを Docker コンテナとしてパッケージ化します。
- 4ワークロードを SaladCloud にデプロイし、可用性、スケーリング、割り込みを監視します。
- 5個別の VM を管理せずに、需要に応じて拡張または縮小します。
Saladの主な機能
- 地理分散ノードを備えた分散 GPU クラウド
- Salad Container Engine による Docker コンテナデプロイ
- 低い開始料金を備えた従量課金
- 大規模な推論とバッチワークロードのサポート
- マルチクラウド互換デプロイ
- ノードがオフラインになった際の自動ワークロード再割り当て
- 暗号化コンテナによるセキュリティ分離
- VM 管理不要
Saladのユースケース
- 大規模 AI 推論
- モデル学習とファインチューニング
- Text-to-image 生成
- Speech-to-text 文字起こし
- コンピュータビジョンのワークロード
- LLM デプロイ
- バッチ処理とレンダリング
- HPC スタイルの GPU ワークロード
Saladの料金と無料枠
Salad の料金モデルは 有料, カスタム料金 です。
Saladのメリット・注意点
メリット
- 非常に低い開始 GPU 価格
- 大規模な分散 GPU ネットワーク
- スケーラブルな AI 推論に適している
- Docker ベースのデプロイでセットアップが簡単
- 前払いなしの従量課金
注意点
- GPU の可用性はスポット容量のように中断される可能性がある
- 一般的なクラウド GPU よりコールドスタートが長い
- ネットワーク上の最大 vRAM は 24 GB に制限される
- 極端に低遅延が必要なワークロードには不向き
Salad はどんな用途に向いていますか?
- 低コストの GPU 推論が必要な AI チーム
- モデルワークロードを迅速に拡張したいスタートアップ
- コンテナ化された GPU アプリをデプロイする開発者
- 大手クラウドのより安価な代替を探す企業
- スポット型の中断に耐えられるワークロード