오픈소스 모델로 GPT-5.6 Sol 제쳤다…비용은 100분의 1, 검색 성능 역전

AI 요약

4B 규모의 오픈소스 모델을 Castform으로 포스트 트레이닝한 결과, GPT-5.6 Sol과 동등한 검색 정확도를 보이면서 비용은 100분의 1에 불과한 것으로 나타났다. Neon의 Lakebase Postgres와 Search 확장 기능을 활용해 검색 에이전트의 컨텍스트 제공 문제를 해결하고, Castform이 RL 포스트 트레이닝을 통해 모델의 검색 결정 능력을 향상시켰다. 이는 에이전트 검색의 비용과 지연 시간 문제를 해결하는 중요한 전환점으로 평가된다.

핵심 포인트

• 4B 오픈소스 모델이 GPT-5.6 Sol과 동등한 검색 정확도를 달성하면서 비용은 100배 저렴
• gpt-5.6-sol 기반 다중 턴 검색 요청은 10초 이상 소요되고 약 $0.03 비용 발생
• Castform은 RL 포스트 트레이닝을 통해 특정 작업에서 프론티어 모델을 능가하는 성능 구현
• Neon의 Lakebase Search(lakebase_text, lakebase_vector)가 훈련 및 추론 파이프라인에 통합됨

향후 전망

• 오픈소스 모델 + RL 포스트 트레이닝 조합이 폐쇄형 API 모델의 검색 시장을 잠식할 가능성
• 포스트 트레이닝이 프롬프트 엔지니어링만큼 접근하기 쉬워지면서 개발자 채택이 확대될 전망