AI 大型語言模型 (LLMs)

MyLLM Connect

免費開源的桌面輔助工具,可在Mac/PC上運行私有AI後端,並透過Tailscale以受信任的HTTPS連接MyLLM iOS應用程式。

MyLLM Connect logo

MyLLM Connect

前往網站

什麼是 MyLLM Connect?

這是一個免費且開源的桌面輔助工具,可管理本地LLM伺服器(透過Ollama),並使用Tailscale通過安全的HTTPS端點暴露服務,讓MyLLM iOS應用程式能從任何地方私密連接。

如何使用 MyLLM Connect?

  1. 1從GitHub發布頁面或MyLLM下載頁面下載安裝程式。
  2. 2安裝Ollama和Tailscale(應用程式會在首次執行時引導您)。
  3. 3執行系統托盤應用程式;它會自動啟動Ollama並設定Tailscale serve。
  4. 4開啟MyLLM iOS應用程式,前往設定 > 伺服器 > 配對後端,然後掃描桌面輔助工具顯示的QR碼。

MyLLM Connect 主要功能

  • 管理Ollama以執行本地LLM模型
  • 透過Tailscale以有效TLS憑證暴露本地伺服器至HTTPS
  • 透過QR碼一鍵與MyLLM iOS應用程式配對
  • 無需連接埠轉發或複雜的防火牆設定
  • 可在家庭WiFi和行動數據上使用
  • 採用Apache-2.0授權的開源軟體

MyLLM Connect 使用情境

  • 無需依賴雲端服務即可執行私有AI後端
  • 從任何地方安全地使用iPhone上的本地LLM
  • 開發和測試具有私有、始終可用端點的AI應用
  • 讓受信任的群體分享個人LLM的存取權限(未來功能)

MyLLM Connect 價格與免費點數

MyLLM Connect 目前採用 免費 模式。

免費

$0

供個人使用的免費開源桌面輔助工具

MyLLM Connect 優缺點

優點

  • 一鍵設定,QR碼掃描
  • 透過Tailscale自動提供有效的HTTPS
  • 無需手動設定即可跨網路運作
  • 完全開源且注重隱私(無雲端)
  • 輕量級系統托盤應用程式

缺點

  • 需要免費的Tailscale帳戶和安裝
  • 僅能與MyLLM iOS應用程式搭配使用
  • Windows安裝程式未代碼簽署(SmartScreen警告)
  • 目前僅限個人使用;不支援與不受信任方分享

MyLLM Connect 最適合哪些用途?

  • 需要私有本地AI後端的iOS使用者
  • 需要在iPhone上測試本地LLM的開發者
  • 注重隱私、避免使用雲端AI服務的使用者

MyLLM Connect 常見問題

MyLLM Connect 的免費替代工具

Best alternatives AI Tools to MyLLM Connect

Quant Picker logo

Quant Picker 幫助您根據硬體選擇最佳 GGUF 量化水平,平衡品質、上下文長度和速度。

ZeroGPU logo

ZeroGPU 是一個計算效率層,透過邊緣運算網絡將大量推理任務路由至專門的小型語言模型,幫助 AI 應用和代理降低成本。

Claude Fable 5 logo

Anthropic 的 Claude 寓言 5 是一款最先進的 AI 語言模型,在程式碼編寫、分析、視覺和研究中表現卓越,並具備先進的安全分類器。

Ollama logo

Ollama 是一個平台,用於在本機上執行大型語言模型,並可擴展至雲端,提供更快、更大的模型,支援並行請求與即時網路資訊。

DeepSeek logo

一個免費的AI聊天機器人,由大型語言模型驅動,用於對話、編碼和創意任務。

Uncensored AI logo

Uncensored AI 是一個 AI 模型中心與聊天平台,提供多個主流模型的存取,包括 uncensored 變體,以及供私人測試版使用的 API。

ApX Machine Learning logo

ApX Machine Learning 是一個教育平台,透過課程、指南、工具和模型排名,提供機器學習、大型語言模型和實用 AI 工程的學習資源。