レート制限

専用クラウドのデフォルトのレート制限と変更をリクエストする方法

W&B 専用クラウドでは、インスタンスの安定性を維持するためにレート制限を設けています。トレーニングを拡大する場合や、より高いスループットが必要な場合は、W&B が制限を調整できます。

​

デフォルトの制限と通知

以下のデフォルト制限は、プラットフォームの安定性を維持するためのものです。

Limit	Default	Scope
Filestream の 1 秒あたりのリクエスト数	500	プロジェクト
Filestream の 1 秒あたりの取り込み量	120 MB	プロジェクト
Filestream の 1 秒あたりのリクエスト数	2	run
run 作成の 1 秒あたりのリクエスト数	80	プロジェクト

制限を超えると、W&B SDK は HTTP レスポンス 429 を返し、SDK のログに HTTP 429: rate limited exceeded というメッセージが表示されます。

• Filesystem のレート制限によって logging がクラッシュしたり失敗したりすることはありません。SDK が filestream リクエストに対して 429 レスポンスを受け取ると、レート制限されたそのリクエストをそのまま一定時間待機して再試行し、その間に後続の更新が蓄積されます。

• run 作成のレート制限に達すると、それ以上トレーニングを続行できなくなります。

HTTP 429: rate limit exceeded

これらのデフォルト値は、一般的な本番ワークロード向けの推奨値です。ワークロードが継続的にこれらの制限を超える場合は、上限の引き上げを依頼するため、W&B サポート または担当の Account Solutions Engineer (AISE) にお問い合わせください。実験環境と利用パターンの詳細をお知らせください。