AI 요약
Workweave가 개발한 오픈소스 AI 모델 라우터로, Anthropic, OpenAI, Gemini 등 다양한 LLM 제공업체의 모델을 요청별로 최적 라우팅해주는 도구입니다. 단일 엔드포인트에서 모든 모델을 사용할 수 있으며, 로컬 임베더를 사용해 프롬프트 기반이 아닌 정확한 모델 선택이 가능합니다. Claude Code, Codex, Cursor 등 주요 AI 코딩 도구와 호환되며, npx 명령어 하나로 30초 만에 설치할 수 있습니다. BYOK(자체 키 보관) 방식으로 보안을 유지하고, OTLP 트레이싱을 통해 모니터링이 가능합니다.
핵심 포인트
- 단일 엔드포인트(localhost:8080)에서 Anthropic, OpenAI, Gemini 등 모든 주요 LLM API 지원
- Avengers-Pro 1 기반 클러스터 스코어러로 요청별 최적 모델 자동 선택
- npx @workweave/router 명령어로 30초 퀵스타트 가능 (Node ≥ 18 필요)
- OpenRouter를 통해 DeepSeek, Qwen, Llama 등 오픈소스 모델도 지원
향후 전망
- AI 개발 도구의 멀티모델 운영을 표준화하는 인프라로 자리잡을 가능성
- 기업용 AI 워크플로우에서 비용 최적화와 성능 향상을 위한 핵심 도구로 확장 전망
출처:Hacker News
