Unsloth

Unslothとは

Unslothの使い方

1. 1サポートされているデバイスにUnsloth Studioをインストールまたは開きます。
2. 2GGUFまたはsafetensorsモデルを読み込んでローカルで実行します。
3. 3Model Arenaを使用して2つのモデルをサイドバイサイドで比較します。
4. 4PDF、CSV、JSON、音声、コード、画像をアップロードしてデータセットを作成します。
5. 5コード不要のトレーニングを開始し、可観測性ツールで進行状況を監視します。
6. 6完成したモデルをGGUFまたはsafetensorsにエクスポートしてデプロイします。

Unslothの主な機能

• MacおよびWindowsでの100%オフラインローカルモデル実行
• GGUFおよびsafetensorsモデルのサポート
• OpenAI互換API
• ツール呼び出しとWeb検索のサポート
• サイドバイサイドモデル比較
• ファイルからのコード不要データセット作成
• リアルタイムトレーニング可観測性
• LoRA、FP8、FFT、PTの最適化カーネル
• テキスト、ビジョン、音声、埋め込みにわたる500以上のモデルをサポート
• GGUFおよびsafetensorsへのモデルエクスポート

Unslothのユースケース

• クラウド依存なしでLLMをローカルで実行
• 単一GPUでのモデルファインチューニング
• ベースモデルとファインチューンモデルの出力比較
• PDF、CSV、JSONファイルをトレーニングデータセットに変換
• llama.cpp、vLLM、Ollamaで使用するためのモデルエクスポート
• オフラインでのマルチモーダルAIワークフローのプロトタイピング

Unslothの料金と無料枠

Unsloth の料金モデルは 無料 です。

Unslothのメリット・注意点

Unsloth はどんな用途に向いていますか？

• ローカルモデル実行を必要とする開発者
• プライベートにモデルをファインチューニングするチーム
• ドキュメントからデータセットを作成するユーザー
• モデル出力を比較するAI実践者
• 無料のトレーニングワークフローを探すオープンソースユーザー

Unslothのよくある質問