요청 속도 제한

Dedicated Cloud의 기본 요청 속도 제한과 변경 요청 방법

W&B Dedicated Cloud는 인스턴스의 안정성을 유지하기 위해 요청 속도 제한을 적용합니다. W&B는 트레이닝 규모를 늘리거나 더 높은 처리량이 필요할 때 이 제한을 조정할 수 있습니다.

​

기본 한도 및 알림

다음 기본 제한은 플랫폼 안정성을 유지하는 데 도움이 됩니다:

Limit	Default	Scope
초당 Filestream 요청 수	500	프로젝트
초당 Filestream 수집량	120 MB	프로젝트
초당 Filestream 요청 수	2	run
초당 run 생성 요청 수	80	프로젝트

제한을 초과하면 W&B SDK는 HTTP 응답 429를 반환하며, SDK 로그에 HTTP 429: rate limited exceeded 메시지가 표시됩니다.

• 파일시스템 요청 속도 제한 때문에 로깅이 중단되거나 실패하는 일은 절대 없습니다. SDK가 filestream 요청에서 429 응답을 받으면, 후속 업데이트가 누적되는 동안 잠시 대기한 뒤 요청 속도 제한에 걸린 요청을 그대로 재시도합니다.

• run 생성 요청 속도 제한은 이후 트레이닝을 차단합니다.

HTTP 429: rate limit exceeded

다음 기본값은 일반적인 프로덕션 워크로드에 권장됩니다. 워크로드가 이 한도를 지속적으로 초과하는 경우, 더 높은 한도를 요청하려면 W&B 지원팀 또는 담당 Account Solutions Engineer(AISE)에게 문의하세요. 실험 설정과 사용 패턴에 관한 세부 정보를 제공하세요.