AI 대형 언어 모델 (LLM)
MyLLM Connect
무료 오픈소스 데스크톱 동반 앱으로, Mac/PC에서 개인 AI 백엔드를 실행하고 Tailscale을 통해 신뢰할 수 있는 HTTPS로 MyLLM iOS 앱을 연결합니다.
MyLLM Connect
MyLLM Connect란?
무료 오픈소스 데스크톱 동반 앱으로, 로컬 LLM 서버(Ollama 사용)를 관리하고 Tailscale을 사용하여 보안 HTTPS 엔드포인트로 노출합니다. 이를 통해 MyLLM iOS 앱이 어디서나 개인적으로 연결할 수 있습니다.
MyLLM Connect 사용 방법
- 1GitHub 릴리스 페이지 또는 MyLLM 다운로드 페이지에서 설치 프로그램을 다운로드합니다.
- 2Ollama와 Tailscale을 설치합니다(첫 실행 시 앱이 안내합니다).
- 3시스템 트레이 앱을 실행하면 자동으로 Ollama가 시작되고 Tailscale serve가 설정됩니다.
- 4MyLLM iOS 앱을 열고 설정 > 서버 > 백엔드 연결로 이동한 후 동반 앱에 표시된 QR 코드를 스캔합니다.
MyLLM Connect 주요 기능
- Ollama를 관리하여 로컬 LLM 모델 실행
- Tailscale을 통해 유효한 TLS 인증서로 HTTPS를 통해 로컬 서버 노출
- QR 코드로 MyLLM iOS 앱과 원터치 페어링
- 포트 포워딩이나 복잡한 방화벽 설정 불필요
- 홈 WiFi 및 모바일 데이터에서 작동
- Apache-2.0 라이선스의 오픈소스
MyLLM Connect 사용 사례
- 클라우드 서비스에 의존하지 않고 개인 AI 백엔드 실행
- iPhone에서 어디서나 안전하게 로컬 LLM 사용
- 비공개로 항상 사용 가능한 엔드포인트로 AI 애플리케이션 개발 및 테스트
- 신뢰할 수 있는 그룹이 개인 LLM에 대한 액세스를 공유할 수 있도록 함(향후 기능)
MyLLM Connect 가격 및 무료 크레딧
MyLLM Connect의 가격 모델은 무료입니다.
MyLLM Connect 장점과 단점
장점
- QR 스캔으로 원터치 설정
- Tailscale을 통해 자동으로 유효한 HTTPS 제공
- 수동 구성 없이 네트워크 간 작동
- 완전 오픈소스 및 개인정보 보호 중심(클라우드 없음)
- 가벼운 시스템 트레이 앱
단점
- 무료 Tailscale 계정 및 설치 필요
- MyLLM iOS 앱에서만 작동
- Windows 설치 프로그램이 코드 서명되지 않음(SmartScreen 경고)
- 현재 개인용으로 제한됨; 신뢰할 수 없는 사용자와 공유 지원 안 함
MyLLM Connect은 어떤 용도에 가장 적합한가요?
- 개인 로컬 AI 백엔드를 원하는 iOS 사용자
- iPhone에서 로컬 LLM을 테스트해야 하는 개발자
- 클라우드 AI 서비스를 피하는 개인정보 보호에 민감한 사용자