SGLang – LLM 및 멀티모달 모델을 위한 고성능 서빙 프레임워크

SGLang – High-performance serving framework for LLM's and multimodal models