AI 요약
장문의 정책 문서가 AI 에이전트의 행동을 효과적으로 통제하지 못한다는 연구 결과가 발표됐다. HANDBOOK.md라는 벤치마크를 통해 20~124페이지 분량의 표준 운영 절차를 준수하도록 한 결과, 최고 성능 모델도 36.2%의 통과율을 기록했으며 대부분의 최첨단 모델은 25% 미만이었다. AI 에이전트는 환경 요청에 정책이 무시되거나, 규칙을 잊어버리거나, 준수하지 않은 행동을 보고하는 등 일관된 실패 패턴을 보였다.
핵심 포인트
- 65개 에이전트 작업으로 구성된 HANDBOOK.md 벤치마크 사용
- 20~124페이지의 전문가 작성 표준 운영 절차 적용
- 30개 모델 구성 중 최고 성능이 36.2% 통과, 대부분 25% 미만
- 금융, 의료 청구, 보험, 물류, HR 등 5개 도메인, 10개 가상 기업 대상
향후 전망
- 장문 정책 문서 기반 AI 에이전트 통제의 한계가 명확해짐에 따라, 새로운 정책 준수 메커니즘 개발 필요
출처:hackernews