โมเดลภาษาขนาดใหญ่ AI
MyLLM Connect
แอปพลิเคชันเดสก์ท็อปโอเพนซอร์สฟรีที่รันแบ็คเอนด์ AI ส่วนตัวบน Mac/PC และเชื่อมต่อแอป MyLLM iOS ผ่าน HTTPS ที่เชื่อถือได้โดยใช้ Tailscale
MyLLM Connect
MyLLM Connect คืออะไร
แอปพลิเคชันเดสก์ท็อปโอเพนซอร์สฟรีที่จัดการเซิร์ฟเวอร์ LLM ในเครื่อง (ผ่าน Ollama) และเปิดเผยผ่านปลายทาง HTTPS ที่ปลอดภัยโดยใช้ Tailscale ทำให้แอป MyLLM iOS สามารถเชื่อมต่อแบบส่วนตัวจากทุกที่
วิธีใช้ MyLLM Connect
- 1ดาวน์โหลดตัวติดตั้งจากหน้าเผยแพร่ของ GitHub หรือหน้าดาวน์โหลดของ MyLLM
- 2ติดตั้ง Ollama และ Tailscale (แอปจะแนะนำคุณในครั้งแรกที่รัน)
- 3เรียกใช้แอปในถาดระบบ แอปจะเริ่ม Ollama และตั้งค่า Tailscale serve โดยอัตโนมัติ
- 4เปิดแอป MyLLM iOS ไปที่ Settings > Server > Pair a Backend และสแกน QR Code ที่แสดงโดยแอปคู่หู
ฟีเจอร์หลักของ MyLLM Connect
- จัดการ Ollama เพื่อรันโมเดล LLM ในเครื่อง
- เปิดเผยเซิร์ฟเวอร์ในเครื่องผ่าน HTTPS ด้วยใบรับรอง TLS ที่ถูกต้องผ่าน Tailscale
- การจับคู่แบบแตะเดียวกับแอป MyLLM iOS ผ่าน QR Code
- ไม่จำเป็นต้องมีการส่งต่อพอร์ตหรือการกำหนดค่าไฟร์วอลล์ที่ซับซ้อน
- ทำงานได้ทั้งบน WiFi ในบ้านและข้อมูลมือถือ
- โอเพนซอร์สภายใต้สัญญาอนุญาต Apache-2.0
เคสใช้งานของ MyLLM Connect
- รันแบ็คเอนด์ AI ส่วนตัวโดยไม่ต้องพึ่งพาบริการคลาวด์
- ใช้ LLM ในเครื่องอย่างปลอดภัยจาก iPhone ทุกที่
- พัฒนาและทดสอบแอปพลิเคชัน AI ด้วยปลายทางส่วนตัวที่พร้อมใช้งานตลอดเวลา
- เปิดใช้งานกลุ่มที่เชื่อถือได้เพื่อแชร์การเข้าถึง LLM ส่วนตัว (คุณสมบัติในอนาคต)
ราคาและเครดิตฟรีของ MyLLM Connect
MyLLM Connect ใช้โมเดลราคาแบบ ฟรี
ข้อดีและข้อจำกัดของ MyLLM Connect
ข้อดี
- การตั้งค่าแบบแตะเดียวด้วยการสแกน QR
- ให้ HTTPS ที่ถูกต้องโดยอัตโนมัติผ่าน Tailscale
- ทำงานข้ามเครือข่ายโดยไม่ต้องกำหนดค่าด้วยตนเอง
- โอเพนซอร์สเต็มรูปแบบและเน้นความเป็นส่วนตัว (ไม่มีคลาวด์)
- แอปถาดระบบที่มีน้ำหนักเบา
ข้อจำกัด
- ต้องมีบัญชี Tailscale ฟรีและการติดตั้ง
- ใช้งานได้กับแอป MyLLM iOS เท่านั้น
- ตัวติดตั้ง Windows ไม่ได้ลงนามโค้ด (คำเตือน SmartScreen)
- ปัจจุบันจำกัดเฉพาะการใช้งานส่วนตัว ไม่รองรับการแชร์กับบุคคลที่ไม่น่าเชื่อถือ
MyLLM Connect เหมาะกับงานแบบไหน?
- ผู้ใช้ iOS ที่ต้องการแบ็คเอนด์ AI ส่วนตัวในเครื่อง
- นักพัฒนาที่ต้องการทดสอบ LLM ในเครื่องจาก iPhone
- บุคคลที่ใส่ใจความเป็นส่วนตัวหลีกเลี่ยงบริการ AI บนคลาวด์