메인 콘텐츠로 건너뛰기
Colab에서 실행해 보기 W&B OpenAI API 인테그레이션을 사용해, 파인튜닝 모델을 포함한 모든 OpenAI 모델에 대해 요청, 응답, 토큰 개수 및 모델 메타데이터를 로깅하세요.
W&B를 사용해 파인튜닝 실험, 모델, 데이터셋을 추적하고 동료들과 결과를 공유하는 방법은 OpenAI 파인튜닝 인테그레이션을 참고하세요.
API 입력과 출력을 로깅하면 서로 다른 프롬프트의 성능을 빠르게 평가하고, 온도(temperature)와 같은 다양한 모델 설정을 비교하며, 토큰 사용량과 같은 기타 사용 관련 메트릭을 추적할 수 있습니다.
OpenAI API automatic logging

OpenAI Python API 라이브러리 설치

W&B autolog 인테그레이션은 OpenAI 0.28.1 버전 이하에서 동작합니다. OpenAI Python API 0.28.1 버전을 설치하려면 다음 명령을 실행하세요:
pip install openai==0.28.1

OpenAI Python API 사용

1. autolog 임포트 및 초기화

먼저 wandb.integration.openai에서 autolog를 가져와 초기화합니다.
import os
import openai
from wandb.integration.openai import autolog

autolog({"project": "gpt5"})
선택적으로 wandb.init()이 받는 인자를 담은 사전을 autolog에 전달할 수 있습니다. 여기에는 프로젝트 이름, 팀 이름, entity 등 다양한 값이 포함됩니다. wandb.init()에 대한 자세한 내용은 API Reference Guide를 참조하세요.

2. OpenAI API 호출

이제 OpenAI API를 호출할 때마다 각 호출이 자동으로 W&B에 기록됩니다.
os.environ["OPENAI_API_KEY"] = "XXX"

chat_request_kwargs = dict(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Who won the world series in 2020?"},
        {"role": "assistant", "content": "The Los Angeles Dodgers"},
        {"role": "user", "content": "Where was it played?"},
    ],
)
response = openai.ChatCompletion.create(**chat_request_kwargs)

3. OpenAI API 입력과 응답 보기

1단계에서 autolog가 생성한 W&B run 링크를 클릭하세요. 그러면 W&B App의 프로젝트 워크스페이스로 이동합니다. OpenAI LLM에 사용된 트레이스 테이블, 트레이스 타임라인, 그리고 모델 아키텍처를 확인하려면 생성한 run 중 하나를 선택하세요.

autolog 끄기

OpenAI API 사용을 마친 후에는 disable()을 호출해 모든 W&B 프로세스를 종료할 것을 W&B에서 권장합니다.
autolog.disable()
이제 입력과 컴플리션이 W&B에 기록되어, 분석하거나 동료들과 공유할 수 있습니다.