RAM 100TB 더 절약하기

AI 요약

클라우드플레어가 Pingora 기반 서비스의 일관된 해싱(consistent hashing) 알고리즘을 개선해 전 세계적으로 100TB 이상의 RAM을 절감했다. 성능팀이 pingora-ketama 라이브러리의 과도한 메모리 사용 문제를 발견한 것이 계기였다. 이는 DNS 팀이 지난달 절감한 100TB에 추가된 성과로, 대규모 인프라에서 작은 알고리즘 개선이 큰 효과를 낸 사례다.

핵심 포인트

• Cloudflare는 전 세계 수천 대 서버, 페타바이트급 RAM, 수백만 CPU 코어를 운영
• pingora-ketama(오픈소스 일관된 해싱 라이브러리)의 메모리 과다 사용 문제 해결
• 단일 알고리즘 개선으로 전 세계 100TB 이상 RAM 회수
• 직전 달 DNS 팀의 100TB 절감에 이어 추가 성과

향후 전망

• 대규모 인프라에서 1% 수준의 최적화가 수십~수백 TB 자원 절감으로 이어지는 사례가 계속 발굴될 전망
• Rust 기반 Pingora 생태계의 메모리 효율 개선 작업이 지속될 가능성