AI 요약
litellm의 핵심 기능인 모델 라우팅과 메시지 변환만을 약 2,900줄과 2개 의존성(openai, httpx)으로 추출한 경량 라이브러리 litelm이 공개되었습니다. 기존 litellm이 10만 줄 이상의 프록시 서버, 캐싱, 비용 추적 등 부가 기능에 핵심이 묻혀 있는 문제를 해결하고자 합니다. API는 litellm과 동일한 함수명·인자·응답 타입을 유지해 임포트만 s/litellm/litelm/로 교체하면 전환 가능합니다. 19개 프로바이더를 지원하며 Router, 프록시, 캐싱, 토큰 카운팅 등은 제외되었습니다.
핵심 포인트
- 약 2,900줄, 의존성 2개(openai, httpx)로 구현된 경량 라이브러리
- litellm과 동일한 API로 임포트만 교체하면 마이그레이션 완료
- OpenAI, Anthropic, Groq, Bedrock, Gemini 등 19개 프로바이더 지원
- Router, 프록시 서버, 캐싱, 비용 추적, 토큰 카운팅 등은 의도적으로 제외
향후 전망
- 경량 대안을 선호하는 개발자 커뮤니티의 채택 여부 주목
- 향후 필요한 기능만 선택적으로 추가하는 모듈형 발전 가능성
출처:hackernews