AI 요약
Anthropic 연구진이 Claude와 같은 현대 언어 모델에서 '글로벌 워크스페이스'에 해당하는 J-space라는 내부 신경 패턴을 발견했다. 이 패턴은 모델이 출력하지 않아도 내부적으로 개념을 '생각'할 수 있게 하며, 사용자가 요청하면 보고하거나 조절할 수 있는 특성을 가진다. 이는 AI 의식 가능성에 대한 새로운 논의를 열었다.
핵심 포인트
- J-space는 Claude 훈련 과정에서 자연스럽게 출현한 내부 신경 패턴 집합
- J-space 패턴은 특정 단어와 연결되지만 모델이 해당 단어를 출력한다는 의미는 아님
- 사용자가 Claude에게 무엇을 생각하는지 묻거나 특정 문제를 내부적으로 풀도록 요청하면 J-space가 활성화됨
- J-space는 다단계 추론 시 중간 단계를 내부적으로 처리하며, 출력 텍스트에는 나타나지 않음
향후 전망
- AI의 내부 추론 과정을 해석할 수 있는 새로운 방법론 제시, AI 안전성 연구에 기여 가능
출처:hackernews