메인 콘텐츠로 건너뛰기
웹 UI에서 W&B Inference 서비스를 사용하는 방법을 알아보세요. UI를 사용하기 전에 사전 요구 사항을 완료하세요.

Inference 서비스에 접근하기

Inference 서비스에는 세 가지 경로로 접근할 수 있습니다: https://wandb.ai/inference로 이동합니다.

Inference 탭에서

  1. https://wandb.ai/에서 W&B 계정에 접속합니다.
  2. 왼쪽 사이드바에서 Inference를 선택합니다.
  3. 사용 가능한 모델과 모델 정보가 표시된 페이지가 열립니다.
Playground에서 Inference 모델 사용하기

Playground 탭에서

  1. 왼쪽 사이드바에서 Playground를 선택합니다. Playground 채팅 UI가 표시됩니다.
  2. LLM 드롭다운 목록에서 W&B Inference에 마우스를 올립니다. 오른쪽에 사용 가능한 모델 목록이 표시됩니다.
  3. 모델 드롭다운에서 다음을 수행할 수 있습니다:
Playground에서 Inference 모델 드롭다운

Playground에서 모델 테스트하기

모델을 선택한 후 Playground에서 테스트할 수 있습니다. 다음 작업을 수행할 수 있습니다:

여러 모델 비교하기

Playground에서 Inference 모델을 나란히 비교할 수 있습니다. Compare 뷰는 다음 두 가지 방법으로 열 수 있습니다:

Inference 탭에서

  1. 왼쪽 사이드바에서 Inference를 선택합니다. 사용 가능한 모델 목록 페이지가 표시됩니다.
  2. 모델 카드를 선택하려면 모델 이름을 제외한 카드의 아무 곳이나 클릭합니다. 카드 테두리가 파란색으로 바뀝니다.
  3. 비교하려는 각 모델에 대해 이 과정을 반복합니다.
  4. 선택된 카드 중 하나에서 **Playground에서 모델 N개 비교 (Compare N models in the Playground)**를 클릭합니다. N은 선택한 모델 수를 나타냅니다.
  5. 모델 비교 화면이 열립니다.
이제 모델들을 비교하고 Playground에서 모델을 시도해 보기에 나오는 모든 기능을 사용할 수 있습니다.
Playground에서 비교할 여러 모델 선택

Playground 탭에서

  1. 왼쪽 사이드바에서 Playground를 선택합니다. Playground 채팅 UI가 표시됩니다.
  2. LLM 드롭다운 목록에서 W&B Inference 위에 마우스 커서를 올립니다. 오른쪽에 모델 드롭다운이 표시됩니다.
  3. 드롭다운에서 Compare를 선택합니다. Inference 탭이 표시됩니다.
  4. 선택하려는 모델 카드에서 (모델 이름을 제외한) 아무 곳이나 클릭합니다. 카드 테두리가 파란색으로 변합니다.
  5. 비교하려는 각 모델에 대해 이 과정을 반복합니다.
  6. 선택된 카드 중 하나에서 Compare N models in the Playground를 클릭합니다. 비교 뷰가 열립니다.
이제 모델을 비교하고 Try a model in the Playground의 모든 기능을 사용할 수 있습니다.

결제 및 사용량 정보 보기

조직 관리자는 W&B UI에서 크레딧 잔액, 사용 내역, 그리고 예정된 청구 내역을 확인할 수 있습니다.
  1. UI에서 W&B Billing 페이지로 이동합니다.
  2. 오른쪽 하단에서 Inference 결제 정보 카드를 찾습니다.
  3. 여기에서 다음을 수행할 수 있습니다.
    • View usage를 클릭하여 시간 경과에 따른 사용량을 확인합니다.
    • 예정된 Inference 청구 금액을 확인합니다(유료 플랜의 경우).
모델별 요금에 대한 자세한 내용은 Inference 요금 페이지를 방문하세요.

다음 단계

  • 사용 사례에 가장 적합한 모델을 찾기 위해 사용 가능한 모델을 검토하세요
  • 프로그램 방식으로 액세스하려면 API를 사용해 보세요
  • 코드 샘플은 사용 예시를 참고하세요