Quantization

1 posts

• [LLM] 양자화 기초: 가중치 저장과 W4A16 계산 과정

  2026년 9월 21일

  양자화의 scale, zero-point, group size와 W4A16 계산 과정을 살펴보고 메모리 절약이 추론 속도에 미치는 영향을 정리합니다.