AI 요약
한 연구자가 르쿤이 참여한 JEPA 월드 모델 'LeWM'을 대상으로 약 600회의 실험을 수행하고 그 결과를 공개했다. Push-T 벤치마크에서 예측기를 완벽한 물리 시뮬레이터로 교체해도 성공률이 78%에서 77%로 거의 차이가 없어, 학습된 예측기의 성능이 이미 충분히 우수함을 보였다. 즉 추가 성능 향상의 여지는 모델 재학습이 아니라 아키텍처 활용 방식, 즉 계획(planning) 기법에 있음을 시사한다. 연구자는 재학습 없이 장기 과제 성공률을 높이는 네 가지 새로운 계획 기법을 발견했다고 밝혔다.
핵심 포인트
- LeWM은 인코더·예측기·플래너로 구성된 JEPA 월드 모델로, Push-T 시뮬레이션을 주 벤치마크로 사용
- 75스텝 장기 과제에서 기본 LeWM 78%, 완벽한 물리 시뮬레이터 적용 버전 77%로 사실상 동등
- 600회 실험을 통해 모델 재학습 없이 장기 과제 성공률을 높이는 4가지 신규 계획 기법 발견
- 메모리 그래프 변환으로 추가 학습 없이 즉석 하위 목표를 생성해 분포 외 목표 과제를 해결
향후 전망
- JEPA 계열 월드 모델 연구의 초점이 예측 정확도에서 계획·활용 기법으로 이동할 가능성
- 생성형 월드 모델 대비 JEPA의 효율성 논쟁에 실증적 근거를 제공할 전망
출처:hackernews (haddyalchaer.com)
