요청 속도 제한

안정성을 위한 Self-Managed 인스턴스의 선택적 요청 속도 제한

안정성을 유지하고 특정 사용자나 워크로드가 다른 사용자나 워크로드에 부정적인 영향을 주지 않도록 W&B Self-Managed 인스턴스에서 요청 속도 제한을 설정할 수 있습니다. 이러한 제한은 선택 사항입니다. 이를 설정하지 않으면 인스턴스는 아래에 설명된 제한을 강제 적용하지 않습니다.

​

기본 제한값 및 알림

다음 기본 제한은 플랫폼 안정성을 유지하는 데 도움이 됩니다:

Limit	Default	Scope
초당 Filestream 요청 수	500	프로젝트
초당 Filestream 수집량	120 MB	프로젝트
초당 Filestream 요청 수	2	run
초당 run 생성 요청 수	80	프로젝트

제한을 초과하면 W&B SDK는 HTTP 응답 429를 반환하며, SDK 로그에 HTTP 429: rate limited exceeded 메시지가 표시됩니다.

• 파일시스템 요청 속도 제한 때문에 로깅이 중단되거나 실패하는 일은 절대 없습니다. SDK가 filestream 요청에서 429 응답을 받으면, 후속 업데이트가 누적되는 동안 잠시 대기한 뒤 요청 속도 제한에 걸린 요청을 그대로 재시도합니다.

• run 생성 요청 속도 제한은 이후 트레이닝을 차단합니다.

HTTP 429: rate limit exceeded

이 기본값은 일반적인 프로덕션 워크로드에 권장됩니다. 워크로드가 이러한 제한을 지속적으로 초과하는 경우에는 인스턴스 크기와 공유 사용량에 맞게 제한을 설정하거나, 제한을 설정하지 않은 상태로 둘 수 있습니다. 설정에 대한 자세한 내용은 Deploy W&B with Kubernetes Operator를 참고하거나 W&B 지원팀에 문의하세요.