LLM 주목 시각화 도구, HN에 공개

AI 요약

트랜스포머 기반 LLM의 어텐션 메커니즘을 시각화하는 웹 도구가 공개되었다. 생성된 토큰을 탭하거나 호버하면 해당 토큰 생성에 영향을 준 과거 토큰들이 강조 표시된다. 어텐션 가중치에 값 벡터 크기를 곱하고 모든 헤드와 레이어를 합산해 과거 토큰의 불투명도로 표현한다. 6억 파라미터 모델이 JS 함수를 복사할 때 원본 데이터에서 정보를 가져오는 과정을 시각적으로 확인할 수 있다.

핵심 포인트

• React + Transformers.js 기반으로 구현, vibe-coding으로 생성 루프 직접 작성
• 어텐션 가중치 × 값 벡터 크기, 전체 헤드/레이어 합산을 토큰 불투명도로 표현
• "Office Move Summary" 예시에서 주소·날짜 등 복사된 텍스트가 원본 데이터에서 강하게 활성화됨
• "remain" 토큰이 "work"와 "stay the same" 두 구절에서 동시에 정보를 끌어오는 패턴 확인

향후 전망

• LLM 내부 동작에 대한 직관적 이해 도구로 교육·디버깅에 활용 가능
• 더 큰 모델과 다중 헤드 시각화로 확장될 가능성