AI 요약
LLM 출력물에 인간미를 더하는 스타일 지시는 잘못된 추상화라는 주장이 제기됐다. 에이전트에게 짧은 문장, 전문용어 회피, 중요한 세부사항만 포함하도록 지시하면 출력이 지속적으로 압축되어 정보 손실이 발생한다는 것이다. 특히 에이전트 간 통신에서 인간 친화적 요약은 실패 정보를 숨기고 할루시네이션을 감출 위험이 있다. 데이터베이스와 컴파일러처럼 최고 충실도의 표현을 유지하다가 인간이 소비하는 경계에서만 변환하는 방식이 바람직하다고 주장한다.
핵심 포인트
- LLM 출력에 스타일 규칙을 적용하면 정보가 손실되는 '손실 압축(lossy compression)'이 발생
- 에이전트 간 통신에서 인간 친화적 요약은 실패 원인·스택 트레이스·불확실한 가정 등을 은폐
- "5/6 PASS, FAIL: test_cache_invalidation" 같은 정확한 데이터가 "대부분 통과했지만 한 가지 이슈가 있었다"보다 유용
- 데이터베이스·컴파일러·API처럼 최고 충실도 표현을 유지하고 소비 경계에서만 변환하는 것이 올바른 설계
향후 전망
- 에이전트 간 통신 프로토콜에서 인간 친화적 출력이 분리된 '경계 변환(boundary transformation)' 아키텍처가 표준으로 자리잡을 전망
- 접근성·개인화 요구는 유지하되, 에이전트의 내부 상태는 원시 데이터로 보존하는 하이브리드 방식이 확산될 것으로 예상