L40S

1 posts

• [vLLM] RunPod L40S에서 콜드 스타트 최적화해보기

  Updated:2026년 8월 27일

  RunPod L40S에서 Qwen3-8B의 vLLM 캐시 최적화를 적용해보고 새 컨테이너 기동 시간을 166초에서 120초로 줄인 결과를 정리했습니다.