Duże Modele Językowe AI
MyLLM Connect
Bezpłatny i otwartoźródłowy towarzysz pulpitu, który uruchamia prywatne zaplecze AI na Mac/PC i łączy aplikację MyLLM na iOS za pośrednictwem zaufanego HTTPS przez Tailscale.
MyLLM Connect
Czym jest MyLLM Connect?
Darmowy i otwartoźródłowy program towarzyszący, który zarządza lokalnym serwerem LLM (przez Ollamę) i udostępnia go przez bezpieczny punkt końcowy HTTPS za pomocą Tailscale, umożliwiając aplikacji MyLLM na iOS prywatne połączenie z dowolnego miejsca.
Jak używać MyLLM Connect?
- 1Pobierz instalator ze strony wydań GitHub lub ze strony pobierania MyLLM.
- 2Zainstaluj Ollamę i Tailscale (aplikacja poprowadzi Cię przy pierwszym uruchomieniu).
- 3Uruchom aplikację w zasobniku systemowym; automatycznie uruchomi Ollamę i skonfiguruje Tailscale serve.
- 4Otwórz aplikację MyLLM na iOS, przejdź do Ustawienia > Serwer > Sparuj backend i zeskanuj kod QR wyświetlany przez program towarzyszący.
MyLLM Connect Najważniejsze funkcje
- Zarządza Ollamą w celu uruchamiania lokalnych modeli LLM
- Udostępnia lokalny serwer przez HTTPS z ważnym certyfikatem TLS za pośrednictwem Tailscale
- Parowanie jednym dotknięciem z aplikacją MyLLM na iOS za pomocą kodu QR
- Nie wymaga przekierowania portów ani skomplikowanej konfiguracji zapory
- Działa w domowej sieci WiFi i w transmisji danych komórkowych
- Otwartoźródłowy na licencji Apache-2.0
MyLLM Connect Zastosowania
- Uruchamianie prywatnego zaplecza AI bez polegania na usługach w chmurze
- Bezpieczne korzystanie z lokalnych modeli LLM z iPhone'a z dowolnego miejsca
- Tworzenie i testowanie aplikacji AI z prywatnym, zawsze dostępnym punktem końcowym
- Umożliwienie zaufanym kręgom dostępu do osobistego LLM (funkcja planowana na przyszłość)
MyLLM Connect Ceny i darmowe kredyty
MyLLM Connect działa w modelu Darmowe.
MyLLM Connect Plusy i minusy
Plusy
- Konfiguracja jednym dotknięciem z skanowaniem kodu QR
- Automatycznie zapewnia ważny HTTPS przez Tailscale
- Działa w różnych sieciach bez ręcznej konfiguracji
- W pełni otwartoźródłowy i skoncentrowany na prywatności (bez chmury)
- Lekka aplikacja w zasobniku systemowym
Minusy
- Wymaga bezpłatnego konta Tailscale i jego instalacji
- Działa tylko z aplikacją MyLLM na iOS
- Instalator Windows nie jest podpisany cyfrowo (ostrzeżenie SmartScreen)
- Obecnie ograniczony do użytku osobistego; udostępnianie nieznajomym osobom nie jest obsługiwane
Do czego najlepiej nadaje się MyLLM Connect?
- Użytkownicy iOS pragnący prywatnego lokalnego zaplecza AI
- Deweloperzy potrzebujący testować lokalne modele LLM z iPhone'a
- Osoby dbające o prywatność, unikające usług AI w chmurze