Load Test

이 글에서 다루는 것 k6 부하 테스트로 Triton + FastAPI 서빙 성능을 실측 검증: 136 RPS, p95 553ms, 에러율 0% (CPU-only 3노드 클러스터) 선수지식 GitOps 기반 E2E ML Platform - 운영 문서화 Load Test: 서빙 성능 검증 실제로 얼마나 버티는가 들어가며 이 시리즈에서 지금까지 다음을 확인했습니다. Triton READY Model Repository Loaded FastAPI Health OK Reload API Success Metrics Exported 하지만 여기서 중요한 질문이 하나 더 남습니다. 실제 트래픽이 들어왔을 때 이 시스템이 버티는가? ...