비용 최적화용 무료 AI 도구

Claude Code의 프롬프트 캐시를 따뜻하게 유지하여 하위 에이전트가 5분 이상 실행될 때 발생하는 비용이 많이 드는 재인코딩을 방지하는 오픈 소스 유틸리티입니다.

Millwright는 정책에 따라 AI 요청을 가장 저렴한 모델 제공업체로 라우팅하고 프롬프트 캐시를 유지하며 지출을 제어하는 오픈소스 자체 호스팅 LLM 라우터입니다.

데드라인 인식 LLM 라우터로, 사용자가 지정한 시간 내에 저렴한 서비스 계층을 자동으로 찾아 AI 추론 비용을 절감합니다.

Frugon은 무료 오픈소스 LLM 비용 분석기로, 로컬에서 호출 로그를 분석하여 LLM 청구서에서 누수가 발생하는 부분을 식별합니다.

프롬프트를 50ms 미만으로 최적의 AI 모델에 라우팅하는 드롭인 프록시로, 엔드포인트 변경만으로 비용을 40-70% 절감합니다.

Claude Code의 프롬프트 캐시를 따뜻하게 유지하여 하위 에이전트가 5분 이상 실행될 때 발생하는 비용이 많이 드는 재인코딩을 방지하는 오픈 소스 유틸리티입니다.

Millwright는 정책에 따라 AI 요청을 가장 저렴한 모델 제공업체로 라우팅하고 프롬프트 캐시를 유지하며 지출을 제어하는 오픈소스 자체 호스팅 LLM 라우터입니다.

데드라인 인식 LLM 라우터로, 사용자가 지정한 시간 내에 저렴한 서비스 계층을 자동으로 찾아 AI 추론 비용을 절감합니다.

비용 최적화, 라우팅, 관찰 가능성 및 자동 장애 조치를 갖춘 LLM 추론을 위한 통합 API 플랫폼입니다.

Frugon은 무료 오픈소스 LLM 비용 분석기로, 로컬에서 호출 로그를 분석하여 LLM 청구서에서 누수가 발생하는 부분을 식별합니다.

Edgee는 코딩 에이전트의 LLM 트래픽을 압축, 라우팅 및 관찰하여 토큰 비용을 최대 50% 절감하는 에이전트 게이트웨이입니다.

프롬프트를 50ms 미만으로 최적의 AI 모델에 라우팅하는 드롭인 프록시로, 엔드포인트 변경만으로 비용을 40-70% 절감합니다.

ZeroGPU는 엣지 기반 네트워크를 통해 대규모 추론 작업을 특화된 소형 언어 모델로 라우팅하여 AI 애플리케이션과 에이전트의 비용을 절감하는 컴퓨팅 효율성 레이어입니다.