요약 메트릭 로깅

트레이닝 중 시간에 따라 변하는 값들뿐 아니라, 모델이나 전처리 단계를 요약하는 단일 값을 추적하는 것도 중요한 경우가 많습니다. 이 정보를 W&B Run의 summary 사전에 로그하십시오. Run의 summary 사전은 numpy 배열, PyTorch 텐서 또는 TensorFlow 텐서를 처리할 수 있습니다. 값이 이들 타입 중 하나인 경우 전체 텐서를 이진 파일로 저장하고, min, mean, variance, percentiles 등과 같은 상위 수준 메트릭을 summary 객체에 저장합니다.

wandb.Run.log()으로 마지막에 로깅된 값은 자동으로 W&B Run의 summary 사전에 설정됩니다. summary 메트릭 사전을 수정하면 이전 값은 사라집니다.

다음 코드 스니펫은 W&B에 커스텀 summary 메트릭을 제공하는 방법을 보여줍니다:

import wandb
import argparse

with wandb.init(config=args) as run:
  best_accuracy = 0
  for epoch in range(1, args.epochs + 1):
      test_loss, test_accuracy = test()
      if test_accuracy > best_accuracy:
          run.summary["best_accuracy"] = test_accuracy
          best_accuracy = test_accuracy

트레이닝이 완료된 후에도 기존 W&B run의 summary 속성을 업데이트할 수 있습니다. W&B Public API를 사용하여 summary 속성을 업데이트하세요.

api = wandb.Api()
run = api.run("username/project/run_id")
run.summary["tensor"] = np.random.random(1000)
run.summary.update()

​

요약 메트릭 커스터마이즈하기

커스텀 요약 메트릭은 run.summary에서 트레이닝 중 가장 성능이 좋았던 스텝의 모델 성능을 캡처할 때 유용합니다. 예를 들어, 최종 값 대신 최대 accuracy나 최소 loss 값을 기록하고 싶을 수 있습니다.

기본적으로 요약에는 히스토리(history)의 최종 값이 사용됩니다. 요약 메트릭을 커스터마이즈하려면 define_metric에서 summary 인자를 전달하세요. 이 인자는 다음 값을 사용할 수 있습니다:

• "min"
• "max"
• "mean"
• "best"
• "last"
• "none"

"best"는 선택 인자인 objective를 "minimize" 또는 "maximize"로 설정했을 때만 사용할 수 있습니다.

다음 예제는 loss와 accuracy의 최소값과 최대값을 요약에 추가합니다:

import wandb
import random

random.seed(1)

with wandb.init() as run:
    # loss의 최솟값 및 최댓값 요약
    run.define_metric("loss", summary="min")
    run.define_metric("loss", summary="max")

    # accuracy의 최솟값 및 최댓값 요약
    run.define_metric("acc", summary="min")
    run.define_metric("acc", summary="max")

    for i in range(10):
        log_dict = {
            "loss": random.uniform(0, 1 / (i + 1)),
            "acc": random.uniform(1 / (i + 1), 1),
        }
        run.log(log_dict)

​

요약 메트릭 보기

run의 Overview 페이지나 프로젝트의 Runs 테이블에서 요약 값을 확인할 수 있습니다.

Run Overview

1. W&B App으로 이동합니다.
2. 프로젝트 사이드바에서 Workspace 탭을 선택합니다.
3. 요약 값을 기록한 run을 클릭합니다. run 페이지가 기본으로 Overview 탭과 함께 열립니다.
4. Summary 섹션에서 요약 값을 확인합니다.

Run Table

1. W&B App으로 이동합니다.
2. Runs 탭을 선택합니다.
3. Runs 테이블에서 요약 값 이름을 기준으로 각 열에 표시된 요약 값을 확인할 수 있습니다.

W&B Public API

W&B Public API를 사용하여 run의 요약 값을 가져올 수 있습니다.

다음 코드 예시는 W&B Public API와 pandas를 사용하여 특정 run에 기록된 요약 값을 가져오는 한 가지 방법을 보여줍니다:

import wandb
import pandas

entity = "<your-entity>"
project = "<your-project>"
run_name = "<your-run-name>" # 요약 값을 가진 run의 이름

all_runs = []

for run in api.runs(f"{entity}/{project_name}"):
    print("Fetching details for run: ", run.id, run.name)
    run_data = {
              "id": run.id,
              "name": run.name,
              "url": run.url,
              "state": run.state,
              "tags": run.tags,
              "config": run.config,
              "created_at": run.created_at,
              "system_metrics": run.system_metrics,
              "summary": run.summary,
              "project": run.project,
              "entity": run.entity,
              "user": run.user,
              "path": run.path,
              "notes": run.notes,
              "read_only": run.read_only,
              "history_keys": run.history_keys,
              "metadata": run.metadata,
          }
    all_runs.append(run_data)
  
# DataFrame으로 변환  
df = pd.DataFrame(all_runs)

# 열 이름(name)을 기준으로 행을 가져와 사전으로 변환
df[df['name']==run_name].summary.reset_index(drop=True).to_dict()