세션 지향 다운사이징을 통한 풀 기반 서버리스 플랫폼의 메모리 활용 최적화
Optimizing Memory Utilization in Pool-based Serverless Platforms via Session-oriented Downsizing
- 주제(키워드) 서버리스 컴퓨팅 , 컨테이너 캐싱 , 콜드 스타트 , 자원 관리
- 발행기관 서강대학교 일반대학원
- 지도교수 박성용
- 발행년도 2026
- 학위수여년월 2026. 2
- 학위명 석사
- 학과 및 전공 일반대학원 컴퓨터공학과
- 실제URI http://www.dcollection.net/handler/sogang/000000082714
- UCI I804:11029-000000082714
- 본문언어 한국어
- 저작권 논문은 저작권에 의해 보호받습니다.
초록(요약문)
서버리스 컴퓨팅 패러다임은 사용자가 인프라 관리 없이 코드 실행에만 집중할 수 있는 환경을 제공하지만, 현재의 플랫폼은 사용자가 설정한 메모리 제한값에 의존하여 자원을할당한다는구조적한계를가진다. 사용자는 OOM(Out-of-Memory)오류를방 지하기 위해 실제 사용량보다 과도하게 메모리를 할당(over-provisioning)하는 경향이 있으며, 이는 컨테이너 풀의 집적도를 낮추고 빈번한 컨테이너 축출(eviction)을 유발 하여 결과적으로 시스템의 콜드 스타트(cold start) 오버헤드를 증가시킨다. 더불어 유휴 시간에만 기반한 LRU(Least Recently Used) eviction 정책 사용은 함수 특성에 따른 컨테이너의 재사용 가치를 무시하여 이러한 문제를 더욱 악화시킨다. 그 결과, 콜드 스타트 발생 빈도가 증가하고 end-to-end latency를 증가시켜 노드의 처리율을 저하시킨다. 본 논문에서는 이러한 한계를 극복하기 위해 런타임 메모리 다운사이징(downsizing) 기법과 점수 기반의 keep-alive 및 eviction 정책을 결합한 세션 지향 다운사이징 에이전트인 SODA를 제안한다. SODA는 OOM 에러를 최소화하면서 미사용 메모 리를 회수하기 위해 실시간으로 더 낮은 메모리 한도를 탐색하고 컨테이너 메모리를 동적으로 조절한다. 평가 결과 SODA는 기존 OpenWhisk 대비 콜드 스타트를 39.7% 감소시키며 동시에 평균 지연시간을 29.1% 단축시켰다.
more초록(요약문)
While serverless computing frees users from infrastructure management, current platforms suffer from structural limitations by relying on user-defined memory limits for resource allocation. Users tend to over-provision memory to prevent OOM(Outof-Memory) errors, which significantly reduces the density of the container pool. This inefficiency leads to frequent container evictions and exacerbates cold start overheads. To address these challenges, this paper proposes SODA(Session-Oriented Downsizing Agent), a system designed to safely reduce container memory usage and optimize pool management. SODA leverages Linux PSI(Pressure Stall Information) and cgroup v2 to dynamically explore and commit a safe memory lower bound for running containers, reclaiming surplus memory without degrading performance. Furthermore, to overcome the limitations of traditional time-based LRU policies, SODA introduces the ’SODA Score’, a metric that quantifies the retention value of a container based on cold start costs, memory occupancy, and downsizing status. This score is utilized to implement cost-aware eviction and dynamic keep-alive strategies. We implemented SODA on Apache OpenWhisk, an open-source serverless platform, and evaluated its performance using various real-world workloads. Experimental results demonstrate that SODA reduces the frequency of cold starts by up to 39.7% and average latency by 29.1% compared to the baseline.
more목차
제 1 장 서론 1
제 2 장 배경지식 및 관련 연구 4
2.1 서버리스 컴퓨팅 동작방식 4
2.2 콜드스타트 오버헤드 6
2.3 관련 연구 7
제 3 장 연구동기 10
제 4 장 디자인 15
4.1 SODA 개요 15
4.1.1 디자인 목표 15
4.1.2 도전과제 15
4.1.3 SODA 아키텍처 16
4.2 SODA 다운사이징 18
4.2.1 다운사이징 과정 18
4.2.2 탐색 단계 19
4.2.3 쓰로틀링 단계 21
4.2.4 커밋 단계 22
4.3 SODA Score 24
4.3.1 SODA Score 산정방식 24
4.3.2 효용 기반 컨테이너 keep-alive 및 eviction 25
제 5 장 실험 및 평가 27
5.1 실험 환경 27
5.2 처리량 및 지연시간 30
5.3 콜드 스타트 오버헤드 32
5.3.1 종합적 콜드 스타트 분석 32
5.3.2 함수 별 콜드 스타트 분석 33
5.3.3 Eviction 정책 36
제 6 장 결론 및 향후 연구 38
참 고 문 헌 40
제 7 장 Abstract 43
