AI 요약
구글 리서치가 주관적 범주(예: '건강식품', '영감을 주는 예술', 콘텐츠 모더레이션)를 위한 AI 이미지 분류기를 만들 때 겪는 '회색지대' 문제를 해결하는 '애자일 숙의(Agile Deliberation)' 프레임워크를 공개했다. 기존 방식은 라벨러가 범주 정의를 이미 확정했다고 가정하지만, 실제로는 사람이 예시를 보며 개념의 경계를 점진적으로 발견한다는 점에 착안했다. 이 프레임워크는 LLM 기반 최적화 루프를 통해 사용자가 하위 범주 설정부터 경계 사례 해결까지 대화형으로 정의를 다듬도록 돕는다. 코드와 알고리즘은 GitHub에 오픈소스로 공개됐다.
핵심 포인트
- '애자일 숙의'는 주관적 AI 분류기 생성을 반복적 대화로 다루는 프레임워크
- LLM 기반 최적화 루프로 하위 범주 설정부터 경계 사례 해결까지 자동화
- 정적 벤치마크 대신 실제 참가자 18명과 1.5시간씩 라이브 세션을 진행해 평가
- 수동 프롬프트 엔지니어링을 경계 이미지에 대한 직접 피드백으로 대체해 사용자 피로·불안을 크게 감소
- 코드와 알고리즘을 GitHub에 오픈소스로 공개
향후 전망
- 주관적 개념을 다루는 AI 시스템의 정렬(alignment) 방법론으로 확산 가능
- 콘텐츠 모더레이션·큐레이션 등 실무 적용 사례가 늘어날 전망
