wandb.Run.log()로 데이터를 로깅할 때마다 이를 하나의 통합 사전에 저장합니다. 스크립트에서 로깅된 데이터는 먼저 로컬 머신의 wandb 디렉터리에 저장된 후, W&B 클라우드나 private server로 동기화됩니다.
같은 값을 각 step에 전달하는 경우에만 키-값 쌍이 하나의 통합 사전에 저장됩니다.
step에 서로 다른 값을 로깅하면, W&B는 수집된 모든 키와 값을 메모리에 기록합니다.wandb.Run.log()를 호출할 때마다 기본적으로 새로운 step이 생성됩니다. W&B는 차트와 패널을 생성할 때 기본 x축으로 step을 사용합니다. 필요하다면 커스텀 x축을 만들고 사용하거나 커스텀 요약 메트릭을 캡처할 수 있습니다. 자세한 내용은 Customize log axes를 참고하세요.
자동으로 로깅되는 데이터
- 시스템 메트릭: CPU 및 GPU 사용량, 네트워크 등. GPU의 경우
nvidia-smi로 정보를 가져옵니다. - 명령줄: stdout과 stderr가 수집되어 run 페이지의 logs 탭에 표시됩니다.
- Git 커밋: 최신 git 커밋을 가져와 run 페이지의 overview 탭에서 확인할 수 있으며, 커밋되지 않은 변경 사항이 있으면
diff.patch파일도 함께 표시됩니다. - Dependencies:
requirements.txt파일이 업로드되어 run 페이지의 files 탭에 표시되며, 해당 run을 위해wandb디렉터리에 저장하는 파일도 함께 업로드됩니다.
특정 W&B API 호출로 어떤 데이터가 로깅되나요?
- Datasets: 이미지나 기타 데이터셋 샘플을 W&B로 스트리밍하려면 명시적으로 로깅해야 합니다.
- Plots: 차트를 추적하려면
wandb.plot()과wandb.Run.log()를 사용하세요. 자세한 내용은 Log Plots를 참고하세요. - Tables: W&B에서 시각화하고 조회할 데이터를 로깅하려면
wandb.Table을 사용하세요. 자세한 내용은 Log Tables를 참고하세요. - PyTorch gradients: 가중치의 그래디언트를 UI에서 히스토그램으로 보려면
wandb.Run.watch(model)을 추가하세요. - Configuration information: 하이퍼파라미터, 데이터셋 링크, 사용 중인 아키텍처 이름 등을 설정 파라미터로 로깅하세요. 예시는 다음과 같습니다:
wandb.init(config=your_config_dictionary). - Metrics: 모델에서 나오는 메트릭을 확인하려면
wandb.Run.log()를 사용하세요. 트레이닝 루프 내부에서 accuracy와 loss 같은 메트릭을 로깅하면 UI에서 실시간으로 업데이트되는 그래프를 볼 수 있습니다.
메트릭 이름 지정 제약 사항
- 허용 문자: 영문자(A-Z, a-z), 숫자(0-9), 밑줄 문자(_)
- 시작 문자: 이름은 영문자 또는 밑줄 문자로 시작해야 합니다.
- 패턴: 메트릭 이름은
/^[_a-zA-Z][_a-zA-Z0-9]*$/패턴과 일치해야 합니다.
일반적인 워크플로
-
최고 정확도 비교: run 간의 특정 메트릭 최고값을 비교하려면 해당 메트릭의 summary 값을 설정한다. 기본적으로 summary는 각 키에 대해 마지막으로 기록한 값으로 설정된다. 이는 UI의 테이블에서 유용하며, summary 메트릭을 기준으로 run을 정렬하고 필터링해서 최종 정확도 대신 최고 정확도를 기준으로 테이블이나 막대 차트에서 run을 비교할 수 있다. 예를 들어:
wandb.run.summary["best_accuracy"] = best_accuracy -
여러 메트릭을 하나의 차트에서 보기: 한 번의 호출에서 여러 메트릭을 로깅한다. 예를 들어:
그러면 UI에서 두 메트릭을 모두 그래프로 표시할 수 있다.
-
x축 사용자 지정: 동일한 log 호출에 사용자 지정 x축을 추가해서 W&B 대시보드에서 다른 축을 기준으로 메트릭을 시각화한다. 예를 들어:
특정 메트릭에 대한 기본 x축을 설정하려면 Run.define_metric()을 사용한다.
-
풍부한 미디어와 차트 로깅:
wandb.Run.log()는 이미지와 비디오 같은 미디어부터 테이블과 차트까지 다양한 데이터 타입의 로깅을 지원한다.