AI 开发者工具

Unsloth

Unsloth 是一个本地 AI 模型工作室和训练平台,支持离线运行、比较、微调和导出模型。

什么是 Unsloth?

Unsloth 是一个 AI 平台,用于本地运行模型并通过无代码工作流进行微调训练。它支持在 Mac 和 Windows 上离线执行模型、并排模型比较、从文档创建数据集,以及导出为 GGUF 和 safetensors 等格式。

如何使用 Unsloth?

  1. 1在支持的设备上安装或打开 Unsloth Studio。
  2. 2加载 GGUF 或 safetensors 模型以在本地运行。
  3. 3使用 Model Arena 并排比较两个模型。
  4. 4上传 PDF、CSV、JSON、音频、代码或图像以构建数据集。
  5. 5启动无代码训练,并使用可观察性工具监控进度。
  6. 6将完成的模型导出为 GGUF 或 safetensors 以便部署。

Unsloth 主要功能

  • 100% 离线本地模型运行,支持 Mac 和 Windows
  • 支持 GGUF 和 safetensors 模型
  • OpenAI 兼容 API
  • 工具调用和网络搜索支持
  • 并排模型比较
  • 从文件无代码创建数据集
  • 实时训练可观察性
  • 针对 LoRA、FP8、FFT 和 PT 的优化内核
  • 支持 500+ 模型,涵盖文本、视觉、音频和嵌入
  • 模型导出为 GGUF 和 safetensors

Unsloth 使用场景

  • 本地运行 LLM,无需依赖云端
  • 在单 GPU 上微调模型
  • 比较基础模型和微调模型的输出
  • 将 PDF、CSV 和 JSON 文件转化为训练数据集
  • 导出模型以便与 llama.cpp、vLLM 或 Ollama 一起使用
  • 离线原型多模态 AI 工作流

Unsloth 价格与免费额度

Unsloth 目前采用 免费 模式。

Open source version

Free

一个免费的开放源代码选项,可用于在 Google Colab 或 Kaggle Notebooks 上进行微调。

Unsloth Studio

Not specified

网站突出显示了本地离线工作室功能,但未列出公开定价细节。

Unsloth 优缺点

优点

  • 完全离线在本地设备上运行
  • 支持模型比较和无代码训练
  • 可导出为常见部署格式
  • 适用于多种模型类型和模态
  • 包含 OpenAI 兼容 API 支持

缺点

  • 未明确列出公开定价
  • 工作室似乎仅限 Mac 和 Windows 使用
  • 某些高级训练功能可能需要技术设置或 GPU 访问

Unsloth 最适合哪些用途?

  • 希望本地模型执行的开发者
  • 私下微调模型的团队
  • 从文档构建数据集的用户
  • 比较模型输出的 AI 从业者
  • 寻找免费训练工作流的开源用户

Unsloth 常见问题

Unsloth 的免费替代工具

C

一个本地优先的代码智能工具,可将任何代码库转换为可查询的知识图谱,供AI编码代理使用。

Almond Axol logo

双臂机器人平台,用于物理AI研究和部署,具有高工作范围、高负载和高控制率,适用于真实世界的操作任务。

OLO Robotics logo

OLO Robotics 是一个基于浏览器的机器人开发平台,内置 AI 辅助编码、仿真和 ROS2 工具,可加速机器人构建。

SeaTicket AI logo

SeaTicket 将来自 GitHub、论坛和邮件的支持问题集中到一个工作空间中,利用 AI 代理自主解决问题。

Backplanes Spotlight logo

Backplanes Spotlight 可读取您的 Claude Code 和 Codex 会话,提供会话报告,帮助您递归改进。

agentcad logo

Agentcad 是一个开源 MCP 服务器和 CLI,允许 AI 编程代理直接从其编码环境中设计、渲染和导出 CAD 输出。

Kimi Work logo

Kimi Work 是一款桌面端 AI 代理,可自动执行浏览器任务、运行 Python、协调多达 300 个并行代理,并在本地安排工作流。

Uiverse Design logo

将设计系统放入任意代码库,你的编码代理即可立即知晓如何构建一致且精致的界面。