AI 大语言模型 (LLM)
MyLLM Connect
免费开源桌面伴侣，在Mac/PC上运行私有AI后端，并通过Tailscale通过可信HTTPS连接MyLLM iOS应用。
MyLLM Connect
什么是 MyLLM Connect？
一个免费开源的桌面伴侣，管理本地LLM服务器（通过Ollama），并通过Tailscale将其暴露于安全的HTTPS端点，使MyLLM iOS应用能够从任何地方私下连接。
如何使用 MyLLM Connect？
- 1从GitHub发布页面或MyLLM下载页面下载安装程序。
- 2安装Ollama和Tailscale（应用在首次运行时指导你）。
- 3运行系统托盘应用；它会自动启动Ollama并设置Tailscale serve。
- 4打开MyLLM iOS应用，前往设置 > 服务器 > 配对后端，扫描伴侣显示的二维码。
MyLLM Connect 主要功能
- 管理Ollama以运行本地LLM模型
- 通过Tailscale使用有效TLS证书通过HTTPS暴露本地服务器
- 通过二维码与MyLLM iOS应用一键配对
- 无需端口转发或复杂防火墙配置
- 在家庭WiFi和移动数据下工作
- 基于Apache-2.0许可证开源
MyLLM Connect 使用场景
- 运行私有AI后端，不依赖云服务
- 随时随地安全地从iPhone使用本地LLM
- 使用私有、始终可用的端点测试AI应用
- 允许可信圈子共享个人LLM的访问权限（未来功能）
MyLLM Connect 价格与免费额度
MyLLM Connect 目前采用 免费 模式。
MyLLM Connect 优缺点
优点
- 通过二维码扫描一键设置
- 通过Tailscale自动提供有效HTTPS
- 跨网络工作，无需手动配置
- 完全开源且注重隐私（无云）
- 轻量级系统托盘应用
缺点
- 需要免费的Tailscale账户和安装
- 仅适用于MyLLM iOS应用
- Windows安装程序未代码签名（SmartScreen警告）
- 目前仅限于个人使用；不支持与不受信任方共享
MyLLM Connect 最适合哪些用途？
- 想要私有本地AI后端的iOS用户
- 需要从iPhone测试本地LLM的开发者
- 注重隐私、避免云AI服务的个人
MyLLM Connect 常见问题
MyLLM Connect 的免费替代工具
Atlas Cloud 是一个全模态 AI 推理平台，为 chat、image、video 和 audio 模型提供一个 API。
免费
Groq 通过 GroqCloud 和其定制 LPU 技术栈，提供快速、低成本的 AI 推理服务。
免费
Best alternatives AI Tools to MyLLM Connect
Quant Picker 帮助您根据硬件条件，在质量、上下文长度和速度之间取得平衡，为您的 LLM 选择最佳的 GGUF 量化方案。
Anthropic的Claude Fable 5是一款最先进的AI语言模型，在编程、分析、视觉和研究方面表现出色，并配备先进的安全分类器。
Ollama 是一个用于本地运行大规模语言模型并可扩展至云端的平台，提供更快速、更大模型的服务，支持并行请求和实时网络信息。
Uncensored AI 是一个 AI 模型中心和聊天平台，提供对多个主流模型的访问，包括 uncensored 变体，以及一个 private-beta API。
ApX Machine Learning 是一个教育平台，通过课程、指南、工具和模型排行榜，帮助学习机器学习、大型语言模型和实际AI工程。