vLLM Monitoring - V1
vLLM 추론 서버 모니터링 대시보드
본 대시보드는 vLLM(Very Large Language Model) 추론 서버의 핵심 성능 지표를 실시간으로 모니터링합니다. 요청 처리량, 지연 시간, GPU 캐시 사용률 등 운영에 필수적인 메트릭을 시각화하여 서비스 안정성을 확보할 수 있습니다.
Data source config
Collector type:
Collector plugins:
Collector config:
Revisions
Upload an updated version of an exported dashboard.json file from Grafana
| Revision | Description | Created | |
|---|---|---|---|
| Download |