AI 요약
구글 리서치는 온디바이스 AI의 성능 측정과 사용자 프라이버시 보호를 동시에 달성하기 위해 '제로 트러스트 집계' 기반의 비공개 분석 솔루션을 소개했습니다. 안드로이드의 SafetyCore 및 연합 분석 기술은 사용자 정보를 기기 외부로 유출하지 않으면서도 모델의 편향이나 오류율 등을 파악해야 하는 과제를 안고 있습니다. 구글의 연구진인 Adrià Gascón과 Mariana Raykova는 새로운 암호학적 집계 프로토콜과 하드웨어 기반의 TEE(신뢰 실행 환경)를 융합하여 이를 해결했습니다. 이 시스템은 단일 기업에 대한 신뢰를 최소화하는 제로 트러스트 원칙에 기반하며, 개별 사용자의 데이터는 보호되고 오직 익명화된 전체 트렌드만 Google이 파악할 수 있도록 설계되었습니다. 이로써 프라이버시 보장과 AI 모델 고도화라는 두 가지 목표를 안전하게 달성할 수 있는 새로운 이정표를 제시했습니다.
핵심 인사이트
- 2026년 5월 27일 발표: 구글 리서치의 스태프 연구원 Adrià Gascón과 수석 스태프 연구원 Mariana Raykova가 공동으로 제로 트러스트 집계 솔루션을 공개했습니다.
- 핵심 인프라 SafetyCore: 안드로이드 운영체제는 안전하지 않은 콘텐츠로부터 사용자를 보호하기 위해 프라이버시 보장형 온디바이스 기능과 SafetyCore 시스템을 사용합니다.
- 연합 분석 기술의 적용: Pixel Recorder와 Gboard 같은 구글의 주요 애플리케이션들은 이미 연합 분석(Federated Analytics)을 통해 개인 데이터를 보호하면서 집계된 인사이트를 도출하고 있습니다.
주요 디테일
- TEE와 암호학의 융합: 신뢰 실행 환경(TEEs)의 하드웨어 보안 투명성과 엄격한 인증 시스템을 새로운 암호학적 보안 집계 프로토콜과 결합하여 보안을 강화했습니다.
- 제로 트러스트 원칙 구현: 분석 과정에서 단일 엔티티(Google 포함)를 전적으로 신뢰할 필요가 없도록 설계하여, 오직 익명화되고 누적된 집계 결과만 획득 가능하도록 수학적으로 안전성을 보장합니다.
- 실제 AI 작동 모델 분석: 스마트 답장(Smart Reply)의 실제 사용성 분석, 이미지 분류기의 지리적 광원 조건에 따른 편향 감지, 번역 모델의 지역 신조어 적응 실태(모델 드리프트) 등을 개별 정보 노출 없이 모니터링할 수 있습니다.
- 데이터 최소화: 데이터가 기기 내부에서 로컬로 처리되도록 유도하며, 서버 측에는 오직 암호화된 합산 데이터(Sum) 형태로만 도달하게 만듭니다.
향후 전망
- 온디바이스 프라이버시 표준 제고: 구글의 이번 암호학 및 하드웨어 결합 보안 방식은 향후 글로벌 스마트폰 제조사 및 OS 개발사의 프라이버시 보호 표준 기술로 자리 잡을 가능성이 큽니다.
- 연합 학습 및 분석의 대중화: 민감한 정보를 다루는 헬스케어, 보안, 금융 서비스 등 다양한 모바일 인공지능 분야로 제로 트러스트 집계 기법이 빠르게 확산될 것입니다.
출처:google_research