대규모 언어 모델의 '검증 가능한 추론' 연구, 어디까지 왔나

“Anthropic은 zkSNARK 기반 추론 증명 시스템 'FlashProve'를 공개했다. 400B 파라미터 Llama 4 Maverick 모델에서 H100 GPU 1대로 초당 약 110토큰의 증명을 생성하며, 1,024토큰 요청당 증명 크기는 약 19MB이고 이는 vLLM 대비 약 70~95배의 GPU 시간이다. 기존 오픈소스 시스템보다 수 자릿수 빠르며, Lean으로 보안 보장에 대한 감사 가능한 상위 수준 명세를 제공한다.”

AI 요약

앤트로픽(Anthropic)이 대규모 언어 모델의 '검증 가능한 추론(provable inference)'을 위한 암호학적 증명 시스템인 FlashProve를 공개했다. 이 시스템은 zkSNARK 기반으로, 모델 제공자가 특정 모델을 커밋하고 각 응답이 실제로 그 모델에서 생성되었음을 증명할 수 있게 한다. Llama 4 Maverick(400B 파라미터 MoE) 기준 단일 H100 GPU에서 초당 약 110 토큰의 증명 생성이 가능하며, 1,024토큰 요청당 증명 크기는 약 19MB다. 이는 vLLM 대비 70~95배의 GPU 시간이 소요되는 수준으로, 기존 오픈소스 시스템보다 크게 개선된 성능이다. 앤트로픽은 블로그 포스트, 기술 보고서, 프로토콜 명세서, 실행 코드 등 5개 산출물을 함께 공개했다.

핵심 포인트

  • FlashProve는 zkSNARK 기반 추론 증명 시스템으로, Llama 4 Maverick(400B MoE)에서 H100 GPU 기준 초당 약 110 토큰 증명 생성, 1,024토큰당 약 19MB 증명 크기 달성
  • vLLM 대비 70~95배 GPU 시간 소요로, 기존 오픈소스 시스템보다 수백 배 이상 빠름
  • 모델 가중치는 숨기되 아키텍처 은닉은 목표가 아니며, Lean 정형 검증 언어로 보안 보장에 대한 감사 가능한 명제 제공
  • 블로그·기술보고서·프로토콜 명세·실행 코드 등 5개 산출물 공개

향후 전망

  • 소비자 제품부터 내부 보안, AI 페이싱 규제 준수 검증까지 폭넓은 응용 가능성
  • 모델 라우팅 서비스의 비용 목적 모델 대체나 토큰 스트림 변조 공격 방지에 기여할 전망
Share

이것도 읽어보세요

댓글

이 소식에 대한 의견을 자유롭게 남겨주세요.

댓글 (0)

불러오는 중...