⚡ JVM 튜닝 가이드

1튜닝의 3대 원칙

성급한 튜닝은 문제를 해결하기보다 새로운 문제를 만듭니다. 본격적으로 옵션을 건드리기 전에 이 원칙부터 체화하세요.

2튜닝 프로세스

튜닝 목표를 먼저 구체화하라

"빠르게 만들어줘" 같은 막연한 요구는 튜닝할 수 없습니다. 다음 중 무엇이 가장 중요한지 정해야 합니다.

3Heap 크기 튜닝

Heap은 JVM에서 가장 큰 메모리 영역이자 GC의 주 대상. 크기를 잘못 잡으면 OOM이나 잦은 GC로 서비스가 죽습니다.

Heap 크기 정하는 공식

# 실제 사용 Heap 측정 (정상 운영 시 GC 직후)
# 이를 "Live Data Size(LDS)"라고 함

권장 Heap 크기 = LDS × 3 ~ 4

# 예: LDS가 400MB라면 Heap은 1.2GB ~ 1.6GB

핵심 옵션

Heap이 너무 큰 것도 문제

• Full GC 시 pause 시간이 Heap 크기에 비례해 길어짐
• 메모리 낭비 (실제로 쓰지도 않는 공간 확보)
• Cache locality 저하로 오히려 성능 감소

Heap은 "넉넉하되 과하지 않게"가 원칙입니다.

4GC 선택과 튜닝

상황별 GC 선택 가이드

G1 GC 튜닝 (가장 많이 쓰는 케이스)

-XX:+UseG1GC
-XX:MaxGCPauseMillis=200            # 목표 pause 시간 (ms)
-XX:G1HeapRegionSize=16m           # region 크기 (1~32m, 2의 거듭제곱)
-XX:InitiatingHeapOccupancyPercent=45  # Mixed GC 시작 임계값
-XX:G1NewSizePercent=20          # Young 최소 비율
-XX:G1MaxNewSizePercent=40       # Young 최대 비율

ZGC 튜닝 (저지연 서비스)

-XX:+UseZGC
-XX:+ZGenerational                   # JDK 21+ 세대별 ZGC (권장)
-Xmx=16g                           # ZGC는 큰 Heap에서 진가 발휘
-XX:SoftMaxHeapSize=14g            # 소프트 최대치 (권장)

GC 로그 활성화 (필수!)

# JDK 9+ (통합 로깅)
-Xlog:gc*:file=/var/log/gc-%t.log:time,uptime,level,tags:filecount=5,filesize=10m

# 추가로 유용한 옵션
-XX:+HeapDumpOnOutOfMemoryError
-XX:HeapDumpPath=/var/log/heap-dump.hprof
-XX:+ExitOnOutOfMemoryError          # OOM 시 프로세스 종료 (컨테이너 재시작 유도)

5스레드 · 스택 튜닝

스레드 풀 크기 공식

# Brian Goetz 공식 (자바 병렬 프로그래밍)
스레드 수 = CPU 코어 수 × (1 + Wait Time / Compute Time)

# 예시
# - 4코어
# - 평균 대기시간 100ms (DB, 외부 API)
# - 평균 연산시간 50ms

스레드 수 = 4 × (1 + 100/50) = 12

스택 크기 조정

Virtual Thread (JDK 21+) 활용

전통적인 OS 스레드는 무겁습니다. Virtual Thread는 스레드당 수 KB만 사용하며, 수백만 개까지 만들 수 있습니다.

# application.yml (Spring Boot 3.2+)
spring:
  threads:
    virtual:
      enabled: true

6Metaspace · Code Cache 튜닝

Metaspace

클래스 메타데이터가 저장되는 영역. 기본은 무제한이라 방치하면 계속 커집니다.

Code Cache

JIT 컴파일 결과가 저장되는 곳. 가득 차면 JIT가 멈춰 성능이 급락합니다.

CodeCache is full. Compiler has been disabled.
Try increasing the code cache size using -XX:ReservedCodeCacheSize=

7컨테이너 환경 튜닝

컨테이너 + JVM 메모리 배분 공식

컨테이너 메모리 (예: 2GB)
  ├─ Heap            1.5GB  (75%)  ← -XX:MaxRAMPercentage=75
  ├─ Metaspace       256MB         ← -XX:MaxMetaspaceSize=256m
  ├─ Code Cache      128MB         ← -XX:ReservedCodeCacheSize=128m
  ├─ Thread Stack    100MB         ← -Xss512k × 200 스레드
  ├─ Direct Buffer   ~50MB
  └─ GC/기타          ~50MB
                    ──────
                    ~2.0GB  ✅ 컨테이너 한도 내

도커 실전 설정 예시

# Dockerfile
FROM eclipse-temurin:21-jre

ENV JAVA_TOOL_OPTIONS="\
  -XX:InitialRAMPercentage=50.0 \
  -XX:MaxRAMPercentage=75.0 \
  -XX:MaxMetaspaceSize=256m \
  -XX:ReservedCodeCacheSize=128m \
  -Xss512k \
  -XX:+UseG1GC \
  -XX:MaxGCPauseMillis=200 \
  -XX:+HeapDumpOnOutOfMemoryError \
  -XX:HeapDumpPath=/var/log/heap-dump.hprof \
  -XX:+ExitOnOutOfMemoryError \
  -Xlog:gc*:file=/var/log/gc.log:time,uptime:filecount=5,filesize=10m"

COPY app.jar /app.jar
ENTRYPOINT ["java", "-jar", "/app.jar"]

쿠버네티스 리소스 설정

# deployment.yaml
resources:
  requests:
    memory: "2Gi"
    cpu: "500m"
  limits:
    memory: "2Gi"        # requests == limits 권장 (QoS Guaranteed)
    cpu: "2000m"

8모니터링 · 진단 도구

주요 진단 명령어

이 신호가 보이면 즉시 대응

Spring Boot + Prometheus 연동

# build.gradle
implementation 'io.micrometer:micrometer-registry-prometheus'
implementation 'org.springframework.boot:spring-boot-starter-actuator'

# application.yml
management:
  endpoints:
    web:
      exposure:
        include: health, prometheus, metrics
  metrics:
    tags:
      application: ${spring.application.name}

9실전 장애 시나리오

10흔한 안티패턴

11프로덕션 배포 체크리스트

필수 옵션 체크

• -XX:MaxRAMPercentage=75 (컨테이너)
• -XX:MaxMetaspaceSize 명시
• -XX:+UseG1GC 또는 ZGC
• -Xlog:gc* GC 로그 활성화
• -XX:+HeapDumpOnOutOfMemoryError
• -XX:HeapDumpPath 지정 (영속 볼륨)
• -XX:+ExitOnOutOfMemoryError (컨테이너 재시작 유도)

모니터링 체크

• Prometheus JVM 메트릭 수집 중
• Grafana 대시보드 구축 (Heap, GC, Thread, Metaspace)
• GC pause 알림 설정 (예: p99 > 500ms)
• OOM 알림 설정
• Heap 사용률 80% 초과 알림

운영 준비 체크

• 부하 테스트 수행 (실트래픽 2배)
• 힙덤프 수집/분석 절차 문서화
• 스레드 덤프 수집 스크립트 준비
• 장애 런북(runbook) 작성
• 롤백 시나리오 검증

12빠른 참조 - 상황별 설정

Spring Boot 웹 서비스 (2GB 컨테이너)

-XX:MaxRAMPercentage=75
-XX:MaxMetaspaceSize=256m
-XX:ReservedCodeCacheSize=128m
-Xss512k
-XX:+UseG1GC
-XX:MaxGCPauseMillis=200

저지연 API 서비스 (8GB 컨테이너)

-XX:MaxRAMPercentage=70
-XX:MaxMetaspaceSize=512m
-XX:+UseZGC
-XX:+ZGenerational
-Xlog:gc*:file=/var/log/gc.log

배치 처리 서비스

-XX:MaxRAMPercentage=80
-XX:+UseParallelGC
-XX:ParallelGCThreads=8
-XX:GCTimeRatio=19    # 처리량 95% 목표

마이크로서비스 / 서버리스

-XX:MaxRAMPercentage=75
-XX:TieredStopAtLevel=1   # JIT 1단계만 (빠른 시작)
-Xshare:auto             # CDS 활용
-XX:+UseSerialGC         # 작은 Heap은 Serial이 효율