レート制限

安定性のためにセルフマネージドインスタンスで設定できるオプションのレート制限

W&B セルフマネージド インスタンスでは、安定性を維持し、1 人のユーザーや 1 つのワークロードが他に悪影響を及ぼすのを防ぐために、レート制限を設定できます。これらの制限は任意です。設定しない場合、インスタンスでは以下で説明する制限は適用されません。

​

デフォルトの制限と通知

以下のデフォルト制限は、プラットフォームの安定性を維持するためのものです。

Limit	Default	Scope
Filestream の 1 秒あたりのリクエスト数	500	プロジェクト
Filestream の 1 秒あたりの取り込み量	120 MB	プロジェクト
Filestream の 1 秒あたりのリクエスト数	2	run
run 作成の 1 秒あたりのリクエスト数	80	プロジェクト

制限を超えると、W&B SDK は HTTP レスポンス 429 を返し、SDK のログに HTTP 429: rate limited exceeded というメッセージが表示されます。

• Filesystem のレート制限によって logging がクラッシュしたり失敗したりすることはありません。SDK が filestream リクエストに対して 429 レスポンスを受け取ると、レート制限されたそのリクエストをそのまま一定時間待機して再試行し、その間に後続の更新が蓄積されます。

• run 作成のレート制限に達すると、それ以上トレーニングを続行できなくなります。

HTTP 429: rate limit exceeded

これらのデフォルト値は、一般的な本番ワークロードに推奨されます。ワークロードが継続的にこれらの制限を超える場合は、インスタンスのサイズや共有利用状況に応じて、これらの制限を設定するか、未設定のままにできます。設定の詳細については、Deploy W&B with Kubernetes Operatorを参照するか、W&Bサポートにお問い合わせください。