Cohere 파인튜닝

W&B 실험 추적으로 Cohere 모델을 파인튜닝하고 트레이닝 메트릭을 기록해 모델 성능을 모니터링하세요.

W&B를 사용하면 Cohere 모델의 파인튜닝 메트릭과 설정을 기록하여 모델 성능을 분석하고 더 잘 이해할 수 있으며, 그 결과를 동료와 공유할 수 있습니다.

이 Cohere 가이드에는 파인튜닝 run을 시작하는 전체 예제가 포함되어 있으며, Cohere API 문서는 여기에서 확인할 수 있습니다.

Cohere 파인튜닝 결과 로깅하기

W&B 워크스페이스에 Cohere 파인튜닝 로깅을 추가하려면 다음 단계를 따르세요.

1. W&B API 키, W&B entity, project 이름으로 WandbConfig를 생성합니다. API 키는 https://wandb.ai/settings 에서 생성할 수 있습니다.

2. 이 설정을 모델 이름, 데이터셋, 하이퍼파라미터와 함께 FinetunedModel 객체에 전달해 파인튜닝 run을 시작합니다.

   from cohere.finetuning import WandbConfig, FinetunedModel
   
   # W&B 정보로 설정 생성
   wandb_ft_config = WandbConfig(
       api_key="<wandb_api_key>",
       entity="my-entity", # 제공한 API 키와 연결된 유효한 entity여야 합니다
       project="cohere-ft",
   )
   
   ...  # 데이터셋과 하이퍼파라미터 설정
   
   # cohere에서 fine-tuning run 시작
   cmd_r_finetune = co.finetuning.create_finetuned_model(
     request=FinetunedModel(
       name="command-r-ft",
       settings=Settings(
         base_model=...
         dataset_id=...
         hyperparameters=...
         wandb=wandb_ft_config  # 여기에 W&B 설정 전달
       ),
     ),
   )
   

3. 생성한 W&B 프로젝트에서 모델의 파인튜닝 트레이닝 및 검증 메트릭, 하이퍼파라미터를 확인합니다.

   

run 정리

W&B run은 자동으로 정리되며, 작업 유형, 기반 모델, 학습률 등 모든 설정 매개변수를 기준으로 필터링하거나 정렬할 수 있습니다.

또한 run의 이름을 바꾸고, 메모를 추가하거나, 태그를 만들어 그룹으로 묶을 수 있습니다.

리소스

• Cohere 파인튜닝 예제