bj.choi - notes
RSS FeedAI와 클라우드, 보안을 중심으로 개발·운영 경험과 공부하며 배운 내용을 기록합니다.
Recent Posts
여러 모델의 응답을 비교하고 권한과 사용량을 관리할 때 LLM Gateway가 맡는 역할과 도입 기준을 정리합니다.
GPU 사용률과 SM 활동률의 차이를 살펴보고, 운영 환경에서 수집할 지표의 의미와 선택 기준을 정리합니다.
- Updated:
Jev의 State와 Question 구조, 병렬 판단 방식, 확률과 confidence의 차이 및 활용 한계를 살펴봅니다.
양자화의 scale, zero-point, group size와 W4A16 계산 과정을 살펴보고 메모리 절약이 추론 속도에 미치는 영향을 정리합니다.
격리된 환경에서 프로세스, 파일, Registry, 네트워크 변화를 관찰하는 기본 동적 분석과 Sandbox 보고서 확인 방법을 정리합니다.
Joe Sandbox 보고서의 스크립트 생성, 후속 실행, Registry 조회와 예약 작업 기록을 관찰 사실과 해석으로 나눠 정리합니다.