bj.choi - notes

Recent Posts

• [Malware] 악성코드 분석 입문: 목적과 분석 기법, 국가별 APT 사례

  Updated:2026년 9월 6일

  사이버 위협 행위자부터 악성코드의 정의·분류, 국가별 APT 사례, 분석 기법과 안전 원칙까지 학습 순서대로 정리합니다.

• [LLM] Hugging Face 모델 배포 전 확인 항목

  Updated:2026년 9월 2일

  Hugging Face 모델 저장소에서 가중치 크기, KV cache, 컨텍스트 길이와 서빙 설정을 확인하는 방법을 Qwen3.8-Flash-Next 사례로 정리합니다.

• [vLLM] RunPod L40S에서 콜드 스타트 최적화해보기

  Updated:2026년 8월 27일

  RunPod L40S에서 Qwen3-8B의 vLLM 캐시 최적화를 적용해보고 새 컨테이너 기동 시간을 166초에서 120초로 줄인 결과를 정리했습니다.

• [LLM 추론] Attention 비용과 KV Cache·GQA·MLA 최적화

  Updated:2026년 8월 25일

  Prefill과 Decode의 병목을 구분하고, KV Cache·GQA·MLA가 추론 비용을 줄이는 원리를 서빙 관점에서 정리합니다.

• [Security] 사이버보안 AI 벤치마크 정리

  Updated:2026년 8월 12일

  Cybench, CyberGym, ExploitBench, ExploitGym이 각각 무엇을 평가하는지 단계별로 정리합니다.

• [MLOps] Kubernetes GPU 구성요소와 MIG 운영 구조 정리

  Updated:2026년 8월 11일

  Kubernetes에서 NVIDIA GPU가 컨테이너에 연결되는 과정과 GPU Operator, MIG Manager, Device Plugin의 역할을 정리하고 A100 MIG 스케줄링 시 주의할 점을 살펴봅니다.