AI 大型語言模型 (LLMs)
MyLLM Connect
免費開源的桌面輔助工具,可在Mac/PC上運行私有AI後端,並透過Tailscale以受信任的HTTPS連接MyLLM iOS應用程式。
MyLLM Connect
什麼是 MyLLM Connect?
這是一個免費且開源的桌面輔助工具,可管理本地LLM伺服器(透過Ollama),並使用Tailscale通過安全的HTTPS端點暴露服務,讓MyLLM iOS應用程式能從任何地方私密連接。
如何使用 MyLLM Connect?
- 1從GitHub發布頁面或MyLLM下載頁面下載安裝程式。
- 2安裝Ollama和Tailscale(應用程式會在首次執行時引導您)。
- 3執行系統托盤應用程式;它會自動啟動Ollama並設定Tailscale serve。
- 4開啟MyLLM iOS應用程式,前往設定 > 伺服器 > 配對後端,然後掃描桌面輔助工具顯示的QR碼。
MyLLM Connect 主要功能
- 管理Ollama以執行本地LLM模型
- 透過Tailscale以有效TLS憑證暴露本地伺服器至HTTPS
- 透過QR碼一鍵與MyLLM iOS應用程式配對
- 無需連接埠轉發或複雜的防火牆設定
- 可在家庭WiFi和行動數據上使用
- 採用Apache-2.0授權的開源軟體
MyLLM Connect 使用情境
- 無需依賴雲端服務即可執行私有AI後端
- 從任何地方安全地使用iPhone上的本地LLM
- 開發和測試具有私有、始終可用端點的AI應用
- 讓受信任的群體分享個人LLM的存取權限(未來功能)
MyLLM Connect 價格與免費點數
MyLLM Connect 目前採用 免費 模式。
MyLLM Connect 優缺點
優點
- 一鍵設定,QR碼掃描
- 透過Tailscale自動提供有效的HTTPS
- 無需手動設定即可跨網路運作
- 完全開源且注重隱私(無雲端)
- 輕量級系統托盤應用程式
缺點
- 需要免費的Tailscale帳戶和安裝
- 僅能與MyLLM iOS應用程式搭配使用
- Windows安裝程式未代碼簽署(SmartScreen警告)
- 目前僅限個人使用;不支援與不受信任方分享
MyLLM Connect 最適合哪些用途?
- 需要私有本地AI後端的iOS使用者
- 需要在iPhone上測試本地LLM的開發者
- 注重隱私、避免使用雲端AI服務的使用者