브라우저에서 체험하는 초경량 LLM 7종…MicroLLM Lab 공개

AI 요약

브라우저에서 직접 체험할 수 있는 초경량 LLM 7종을 모은 'MicroLLM Lab'이 공개됐다. 이 실험실은 모델의 속도(초당 토큰, 지속 디코딩)와 정확도(객관적 테스트 통과율)를 브라우저 내에서 측정하며, 데이터는 로컬에만 저장된다. 135M 모델의 실패도 측정 대상으로 삼아 객관적 벤치마크를 제공하는 것이 특징이다.

핵심 포인트

• 브라우저 기반 초경량 LLM 7종 벤치마크 실험실 공개
• 최고 피크 속도, 지속 속도(256토큰 디코딩), 평균 지속 속도 등 측정
• 정확도는 정규식/정확 토큰 기반 객관적 테스트로 평가
• 검증 가능한 성능 인증서 생성 및 X·LinkedIn 공유 기능 제공

향후 전망

• 로컬 환경에서의 소형 모델 성능 비교 수요 증가 예상
• 브라우저 기반 AI 벤치마킹 도구의 확산 가능성