NUMA

1 posts

• [LLM 추론] CPU 스레드와 NUMA 메모리 접근

  2026년 10월 21일

  GPU 자원이 부족한 환경에서 CPU·RAM·디스크의 역할을 구분하고, 스레드 수와 NUMA 메모리 배치가 추론 처리량에 미치는 영향을 설명합니다.