GPT-5.5, 추론 토큰 클러스터링이 성능 저하 원인으로 지목

GPT-5.5 Codex에서 추론 토큰이 516, 1034, 1552에 고정적으로 클러스터링되는 현상이 발견되었으며, 이는 복잡한 작업에서 성능 저하와 관련이 있습니다. 2026년 2월부터 6월까지 분석한 390,195개 응답 중 GPT-5.5의 516 토큰 정확 비율이 44%로 다른 모델(1.3%)보다 월등히 높았고, 5월에는 53.3%까지 급증했습니다. 같은 기간 평균 추론 토큰 수는 268.1에서 106.9로 감소하여, 고정된 추론 예산이 성능에 부정적 영향을 미칠 가능성이 제기되었습니다.

AI 요약

OpenAI의 GPT-5.5 Codex 모델에서 추론 토큰이 특정 값(516, 1034, 1552)에 집중되는 클러스터링 현상이 발견되었다. 2026년 2월부터 6월까지 39만 건 이상의 응답 데이터를 분석한 결과, GPT-5.5 응답의 44%가 정확히 516개의 추론 토큰에서 종료되었으며, 이는 다른 모델(1.3%)에 비해 현저히 높은 수치다. 특히 5월과 6월에 이 현상이 급증하면서 평균 추론 토큰 수는 크게 감소하여, 복잡한 작업에서 성능 저하의 원인으로 지목되고 있다.

핵심 포인트

  • GPT-5.5 응답의 44%가 정확히 516개의 추론 토큰에서 종료되며, 1034와 1552에서도 추가 클러스터링 발생
  • 5월(53.30%)과 6월(35.84%)에 516 토큰 클러스터링 비율이 급격히 증가
  • 같은 기간 평균 추론 토큰은 268.1(2월)에서 106.9(5월)로 감소, P90도 772에서 344로 하락
  • 이는 추론 예산 제한(thresholded reasoning-budget)과 유사한 패턴으로, 복잡한 Codex 작업 성능 저하와 연관 가능성 제기

향후 전망

  • OpenAI의 추론 토큰 할당 정책에 대한 투명한 공개와 모델 최적화 필요
  • 고난이도 작업에서의 성능 저하를 방지하기 위한 동적 추론 예산 할당 메커니즘 도입이 요구됨
Share

이것도 읽어보세요

댓글

이 소식에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...