- Alerte de seuil : Envoyez une notification Slack lorsque le score moyen d’un monitor franchit un seuil.
- Détection de régression : Envoyez une alerte lorsqu’un scorer détecte une baisse de la précision ou une hausse de la toxicité.
- Contrôle de déploiement : Déclenchez un webhook lorsqu’une métrique de qualité dépasse un seuil de confiance sur une fenêtre glissante.
- Surveillance opérationnelle : Envoyez une alerte lorsque les taux d’erreur ou les métriques de latence évoluent.
Créer une automatisation
Prérequis
- Dans Weave, configurez un Op ou un monitor qui vous intéresse.
- Dans Team Settings, configurez une intégration Slack ou un webhook.
Étape 1 : Configuration de l’événement
- Accédez à wandb.ai et ouvrez votre projet.
- Dans la barre latérale du projet, cliquez sur Automatisations.
- Dans l’en-tête de la page Automatisations, cliquez sur Create automation.
- Dans la boîte de dialogue modale Create automation, configurez l’événement :
- Event : sélectionnez le type d’événement qui déclenche cette automatisation, par exemple un seuil de métrique Weave.
- Source : sélectionnez la source de l’automatisation, Operation ou Monitor, dans votre projet.
- Operation : sélectionnez le Op name dont les traces sont évaluées par le monitor. La liste contient les Ops ayant enregistré au moins une trace dans le projet.
- Monitor : sélectionnez le Monitor qui produit la métrique que vous souhaitez suivre.
- métrique : sélectionnez la métrique à mesurer pour l’alerte.
- Seuil de métrique : définissez la condition qui déclenche l’automatisation. Sélectionnez un comparateur (par exemple, « is above ») et indiquez la valeur de seuil (par exemple,
0.9). - Fenêtre : configurez la fenêtre utilisée pour déclencher l’automatisation sur Time-based ou Count-based. Sélectionnez la fonction d’agrégation (par exemple, Average) et la période glissante (par exemple, 1 day).
- agrégation : définissez la fonction d’agrégation (par exemple, moyenne, médiane ou minimum) à appliquer aux valeurs de métrique dans la fenêtre avant de les comparer au seuil.
- Vérifiez le graphique Alert preview pour confirmer que les seuils sont configurés de façon à déclencher l’alerte comme attendu.
- Cliquez sur Next step pour passer à la configuration de l’action.
Étape 2 : Configuration de l’action
- Dans le panneau Step 2 of 3, configurez :
- Team : Sélectionnez l’équipe qui doit recevoir la notification.
- Action type : Sélectionnez le type d’action à effectuer, par exemple l’envoi d’une notification Slack.
- Action details : Selon le type d’action, fournissez la configuration requise :
- Pour les notifications Slack, sélectionnez le Slack channel auquel envoyer la notification.
- Pour les webhooks, fournissez le nom du Webhook et le Payload.
- Cliquez sur Next step pour passer à la synthèse.
Étape 3 : Synthèse
- Configurez les métadonnées de l’automatisation :
- Nom de l’automatisation : Fournissez un nom pour l’automatisation, qui sera affiché dans le tableau Automatisations.
- Description (facultatif) : Ajoutez une description pour aider à identifier l’objectif de l’automatisation.
- Cliquez sur Create automation pour créer l’automatisation.
Créer une automatisation à partir d’un monitor
- Dans la barre latérale du projet Weave, cliquez sur Monitors.
- Dans le tableau Monitors, cliquez sur le nom du monitor pour ouvrir son panneau de détails.
- Dans le panneau de détails du monitor, sélectionnez l’onglet Automatisations pour afficher les automatisations existantes pour ce monitor.
- Dans la barre d’outils de la section Automatisations, cliquez sur Create automation.
- Dans le panneau Create automation, la configuration de l’événement est préremplie avec les détails du monitor sélectionné. Ajustez la configuration selon vos besoins :
- métrique : Sélectionnez la métrique à mesurer pour l’alerte.
- Seuil de métrique : Définissez la condition qui déclenche l’automatisation. Sélectionnez un comparateur (par exemple « is above ») et indiquez la valeur seuil (par exemple
0.9). - Fenêtre : Configurez la fenêtre utilisée pour déclencher l’automatisation afin qu’elle soit soit basée sur le temps, soit basée sur le nombre. Sélectionnez la fonction d’agrégation (par exemple Average) et la période glissante (par exemple 1 day).
- agrégation : Définissez la fonction d’agrégation (par exemple moyenne, médiane, minimum) à appliquer aux valeurs de la métrique dans la fenêtre avant de les comparer au seuil.
- Cliquez sur Next, puis effectuez les étapes restantes (sélectionner une action et enregistrer) comme décrit dans Créer une automatisation.
Afficher et gérer les automatisations
- Automatisation : le nom et la description de l’automatisation.
- Type d’événement : le type d’événement qui déclenche l’automatisation.
- Type d’action : l’action déclenchée, par exemple la génération d’une notification Slack.
- Date de création : la date de création de l’automatisation.
- Dernière exécution : la date du dernier déclenchement de l’automatisation.
- Dans la barre latérale du projet Weave, cliquez sur Automatisations.
- Utilisez le champ de recherche dans la barre d’outils du tableau pour filtrer les automatisations par nom.