AI 요약
엔비디아가 자율 AI 에이전트 워크로드를 위한 고효율 오픈 모델 '네모트론 3.5 라이트닝'(300억 파라미터 MoE 모델)을 공개했다. 동시에 AI 모델 간 지능적 라우팅을 지원하는 오픈소스 라이브러리 '네모 스위치야드'도 발표했다. 이 모델은 동급 대비 최대 4배 빠른 출력 속도와 30% 빠른 에이전트 작업 완료를 제공하며, 기업이 자체 도메인 데이터로 커스터마이징할 수 있다. 크라우드스트라이크, 하비 등이 이미 채택했다.
핵심 포인트
- 네모트론 3.5 라이트닝: 300억 파라미터 MoE(전문가 혼합) 모델, 동급 최고 효율
- 네모 스위치야드: 오픈·독점·엔비디아 모델 간 지능적 라우팅 지원, 앱 재작성 불필요
- 성능: 동급 대비 출력 속도 최대 4배, 에이전트 작업 완료 30% 단축
- 적용 사례: 크라우드스트라이크(사이버보안), 하비(법률) 등 산업별 커스터마이징 진행 중
향후 전망
- PC부터 데이터센터, 클라우드까지 AI 배포 위치와 운영 방식에 대한 기업 통제력이 크게 강화될 전망
- 다중 모델 앙상블 아키텍처가 에이전트형 AI 시스템의 표준으로 자리잡을 가능성
출처:NVIDIA Blog