Créez un job d’optimisation d’hyperparamètres (sweeps) avec W&B Launch. Avec les balayages dans Launch, un ordonnanceur de balayage est envoyé vers une Launch Queue avec les hyperparamètres spécifiés à explorer. L’ordonnanceur de balayage démarre dès qu’il est pris en charge par l’agent, en lançant des runs de balayage dans la même file d’attente avec les hyperparamètres sélectionnés. Ce processus se poursuit jusqu’à la fin du balayage ou jusqu’à son arrêt.
Vous pouvez utiliser le moteur de planification W&B Sweep par défaut ou implémenter votre propre ordonnanceur personnalisé :
- Ordonnanceur de balayage standard : utilisez le moteur de planification W&B Sweep par défaut qui contrôle W&B Sweeps. Les méthodes habituelles
bayes, grid et random sont disponibles.
- Ordonnanceur de balayage personnalisé : configurez l’ordonnanceur de balayage pour qu’il s’exécute en tant que job. Cette option permet une personnalisation complète. Vous trouverez dans la section ci-dessous un exemple montrant comment étendre l’ordonnanceur de balayage standard pour inclure davantage de logging.
Ce guide suppose que W&B Launch a déjà été configuré. Si W&B Launch n’est pas configuré, consultez la section pour bien démarrer de la documentation Launch. Nous vous recommandons de créer un balayage dans Launch avec la méthode ‘basic’ si vous utilisez les balayages dans Launch pour la première fois. Utilisez un ordonnanceur personnalisé pour les balayages dans Launch lorsque le moteur de planification W&B standard ne répond pas à vos besoins.
Créer un balayage avec un ordonnanceur standard W&B
Avant de créer un balayage avec W&B Launch, assurez-vous d’avoir d’abord créé un job sur lequel effectuer le balayage. Voir la page Create a Job pour plus d’informations. Créez un balayage de manière interactive dans la W&B App.
- Accédez à votre projet W&B dans la W&B App.
- Sélectionnez l’icône des Sweeps dans la barre latérale du projet (icône de balai).
- Ensuite, sélectionnez le bouton Create Sweep.
- Cliquez sur le bouton Configure Launch.
- Dans le menu déroulant Job, sélectionnez le nom de votre job et la version du job à partir desquels vous souhaitez créer un balayage.
- Sélectionnez la file d’attente sur laquelle exécuter le balayage à l’aide du menu déroulant Queue.
- Utilisez le menu déroulant Job Priority pour définir la priorité de votre launch job. La priorité d’un launch job est définie sur “Medium” si la Launch queue ne prend pas en charge la priorisation.
- (Facultatif) Configurez les arguments d’override pour le run ou l’ordonnanceur du balayage. Par exemple, à l’aide des overrides de l’ordonnanceur, configurez le nombre de runs simultanés gérés par l’ordonnanceur avec
num_workers.
- (Facultatif) Sélectionnez le projet dans lequel enregistrer le balayage à l’aide du menu déroulant Destination Project.
- Cliquez sur Save
- Sélectionnez Launch Sweep.
Créez par programmation un W&B Sweep avec Launch à l’aide de la W&B CLI.
- Créez une configuration de Sweep
- Spécifiez le nom complet du job dans votre configuration de Sweep
- Initialisez un agent de balayage.
Les étapes 1 et 3 sont les mêmes que celles que vous suivez normalement pour créer un W&B Sweep.
'wandb/jobs/Hello World 2:latest' comme valeur du job :# launch-sweep-config.yaml
job: 'wandb/jobs/Hello World 2:latest'
description: sweep examples using launch jobs
method: bayes
metric:
goal: minimize
name: loss_metric
parameters:
learning_rate:
max: 0.02
min: 0
distribution: uniform
epochs:
max: 20
min: 0
distribution: int_uniform
# Paramètres facultatifs de l’ordonnanceur :
# scheduler:
# num_workers: 1 # runs de sweep simultanés
# docker_image: <image de base pour l’ordonnanceur>
# resource: <par ex. local-container...>
# resource_args: # arguments de ressource transmis aux runs
# env:
# - WANDB_API_KEY
# Paramètres Launch facultatifs
# launch:
# registry: <registre pour la récupération d’image>
- Ensuite, initialisez un balayage. Fournissez le chemin vers votre fichier de configuration, le nom de votre file d’attente de jobs, votre entité W&B et le nom du projet.
wandb launch-sweep <path/to/yaml/file> --queue <queue_name> --entity <your_entity> --project <project_name>
Créer un ordonnanceur de balayage personnalisé
L’utilisation des jobs d’ordonnanceur nécessite la version 0.15.4 ou ultérieure de wandb CLI.
Créez un balayage Launch en utilisant la logique de planification des balayages de W&B sous forme de job.
- Identifiez le job du planificateur wandb dans le projet public wandb/sweep-jobs, ou utilisez le nom de job suivant :
'wandb/sweep-jobs/job-wandb-sweep-scheduler:latest'
- Créez une configuration yaml avec un bloc
scheduler supplémentaire incluant une clé job qui pointe vers ce nom, comme dans l’exemple ci-dessous.
- Utilisez la commande
wandb launch-sweep avec la nouvelle configuration.
Exemple de configuration :# launch-sweep-config.yaml
description: Configuration de balayage Launch utilisant un job planificateur
scheduler:
job: wandb/sweep-jobs/job-wandb-sweep-scheduler:latest
num_workers: 8 # autorise 8 runs de balayage simultanés
# job d'entraînement/réglage que les runs de balayage exécuteront
job: wandb/sweep-jobs/job-fashion-MNIST-train:latest
method: grid
parameters:
learning_rate:
min: 0.0001
max: 0.1
Des ordonnanceurs personnalisés peuvent être créés en créant un scheduler-job. Dans le cadre de ce guide, nous allons modifier le WandbScheduler pour ajouter davantage de journalisation.
- Clonez le dépôt
wandb/launch-jobs (plus précisément : wandb/launch-jobs/jobs/sweep_schedulers)
- Modifiez ensuite
wandb_scheduler.py pour obtenir le niveau de journalisation supplémentaire souhaité. Exemple : ajoutez de la journalisation à la fonction _poll. Elle est appelée une fois par cycle d’interrogation (fréquence configurable), avant le lancement de nouveaux runs de balayage.
- Exécutez le fichier modifié pour créer un job avec :
python wandb_scheduler.py --project <project> --entity <entity> --name CustomWandbScheduler
- Identifiez le nom du job créé, soit dans l’UI, soit dans la sortie de l’appel précédent ; il s’agira d’un job de type code-artifact (sauf indication contraire).
- Créez ensuite une configuration de balayage dans laquelle l’ordonnanceur pointe vers votre nouveau job.
...
scheduler:
job: '<entity>/<project>/job-CustomWandbScheduler:latest'
...
Optuna est un framework d’optimisation d’hyperparamètres qui utilise divers algorithmes pour trouver les meilleurs hyperparamètres pour un modèle donné (à l’instar de W&B). En plus des algorithmes d’échantillonnage, Optuna fournit également divers algorithmes d’élagage qui peuvent être utilisés pour arrêter prématurément les runs peu performants. Cela est particulièrement utile lorsque vous exécutez un grand nombre de runs, car cela peut vous faire gagner du temps et économiser des ressources. Ces classes sont très configurables : il suffit de renseigner les paramètres attendus dans le bloc scheduler.settings.pruner/sampler.args du fichier de configuration.Créez un balayage Launch à l’aide de la logique d’ordonnancement d’Optuna avec un job.
-
Commencez par créer votre propre job ou utilisez un job basé sur une image de scheduler Optuna préconstruite.
- Voir le dépôt
wandb/launch-jobs pour obtenir des exemples de création de votre propre job.
- Pour utiliser une image Optuna préconstruite, vous pouvez soit accéder à
job-optuna-sweep-scheduler dans le projet wandb/sweep-jobs, soit utiliser le nom de job suivant : wandb/sweep-jobs/job-optuna-sweep-scheduler:latest.
-
Après avoir créé un job, vous pouvez créer un balayage. Créez une configuration de balayage qui inclut un bloc
scheduler avec une clé job pointant vers le job de scheduler Optuna (exemple ci-dessous).
# optuna_config_basic.yaml
description: Un planificateur Optuna de base
job: wandb/sweep-jobs/job-fashion-MNIST-train:latest
run_cap: 5
metric:
name: epoch/val_loss
goal: minimize
scheduler:
job: wandb/sweep-jobs/job-optuna-sweep-scheduler:latest
resource: local-container # requis pour les jobs de planificateur provenant d'images
num_workers: 2
# paramètres spécifiques à Optuna
settings:
pruner:
type: PercentilePruner
args:
percentile: 25.0 # arrête 75 % des runs
n_warmup_steps: 10 # élagage désactivé pour les x premières étapes
parameters:
learning_rate:
min: 0.0001
max: 0.1
- Enfin, lancez le balayage dans une file d’attente active avec la commande launch-sweep :
wandb launch-sweep <config.yaml> -q <queue> -p <project> -e <entity>
jobs/sweep_schedulers. Ce guide montre comment utiliser le Wandb Scheduler Job accessible au public et présente également un processus de création de jobs personnalisés d’ordonnancement de balayage.
Il est également possible de reprendre un balayage Launch à partir d’un balayage lancé précédemment. Bien que les hyperparamètres et la tâche d’entraînement ne puissent pas être modifiés, les paramètres propres à l’ordonnanceur peuvent l’être, ainsi que la file d’attente à laquelle il est envoyé.
Si le balayage initial utilisait une tâche d’entraînement avec un alias comme ‘latest’, la reprise peut produire des résultats différents si la dernière version du job a été modifiée depuis la dernière exécution.
- Identifiez le nom ou l’ID d’un balayage Launch exécuté précédemment. L’ID du balayage est une chaîne de huit caractères (par exemple,
hhd16935) que vous pouvez trouver dans votre projet dans la W&B App.
- Si vous modifiez les paramètres de l’ordonnanceur, créez un fichier de configuration mis à jour.
- Dans votre terminal, exécutez la commande suivante. Remplacez le contenu entouré de
< et > par vos informations :
wandb launch-sweep <optional config.yaml> --resume_id <sweep id> --queue <queue_name>
