AI 모델
CanIRun.ai
CanIRun.ai는 기기 성능을 바탕으로 로컬 AI 모델을 내 기기에서 실행할 수 있는지 추정해 주는 브라우저 기반 도구입니다.
CanIRun.ai
CanIRun.ai란?
CanIRun.ai는 브라우저에서 감지한 하드웨어 신호를 모델의 메모리 및 성능 요구사항과 비교해, 내 기기가 로컬 AI 모델을 얼마나 잘 실행할 수 있는지 추정하는 웹 도구입니다.
CanIRun.ai 사용 방법
- 1지원되는 브라우저에서 웹사이트를 엽니다.
- 2페이지가 사용 가능한 브라우저 하드웨어 신호를 읽을 수 있도록 허용합니다.
- 3추정된 GPU, VRAM, 대역폭, RAM, CPU 코어 적합성을 확인합니다.
- 4모델 목록을 둘러보며 어떤 모델이 잘 실행될 가능성이 있는지, 빡빡하게 맞는지, 또는 너무 무거운지 살펴봅니다.
- 5로컬 모델을 다운로드하거나 실행하기 전에 자세한 정보를 위해 모델 페이지를 엽니다.
CanIRun.ai 주요 기능
- 브라우저 기반 하드웨어 추정
- 모델별 로컬 AI 호환성 검사
- Runs well, Tight fit, Too heavy 같은 실행 가능성 라벨
- 메모리 및 컨텍스트 크기 추정
- tokens per second 기준 성능 추정
- 다양한 오픈 웨이트 모델과 아키텍처 지원
- 사용 카테고리와 출시 정보가 포함된 모델 상세 페이지
CanIRun.ai 사용 사례
- 노트북이나 데스크톱에서 로컬 LLM 선택하기
- 다운로드 전에 모델 크기 비교하기
- 브라우저 기기가 온디바이스 AI를 처리할 수 있는지 확인하기
- 제한된 하드웨어에 맞는 더 작은 모델 찾기
- 채팅, 코딩, 비전, 추론 작업에 쓸 모델 후보 추리기
CanIRun.ai 가격 및 무료 크레딧
CanIRun.ai의 가격 모델은 무료입니다.
CanIRun.ai 장점과 단점
장점
- 로컬 모델 호환성을 간단하게 추정할 수 있음
- 인기 있는 오픈 모델을 폭넓게 지원함
- 실용적인 적합성 라벨과 성능 추정치를 보여줌
- 하드웨어 한도에 맞춰 모델을 고르는 데 유용함
단점
- 추정치는 브라우저 API를 기반으로 하므로 실제 하드웨어와 차이가 있을 수 있음
- 상세한 유료 플랜이나 지원 정보가 보이지 않음
- 결과가 실제 런타임 성능과 정확히 일치하지 않을 수 있음
CanIRun.ai은 어떤 용도에 가장 적합한가요?
- 로컬 AI 사용자
- LLM 취미 사용자
- 하드웨어 적합성을 테스트하는 개발자
- 더 작은 오픈 웨이트 모델을 찾는 사람