MoE

1 posts

• [Strata] A100 80GB 한 장으로 대형 MoE 모델 구동하기

  Updated:2026년 10월 8일

  Strata의 Expert 캐시와 메모리 배치를 살펴보고, A100 80GB 한 장에서 모델과 API 서버를 구동하는 과정을 정리합니다.