사전 준비 사항

W&B Inference를 사용할 수 있도록 환경을 설정합니다

API 또는 UI를 통해 W&B Inference 서비스를 사용하기 전에 다음 단계를 완료하세요.

시작하기 전에 비용과 제한 사항을 파악하기 위해 사용량 정보 및 제한을 확인하세요.

​

W&B 계정과 프로젝트 설정하기

W&B Inference를 사용하려면 다음이 필요합니다:

1. W&B 계정
   W&B에서 가입하세요

2. W&B API 키

   API 키를 생성하려면 Personal API key 또는 Service Account API key 탭을 선택해 자세한 내용을 확인하세요.

   Personal API key

   사용자 ID 소유의 개인 API 키를 생성하려면:

   1. W&B에 로그인한 다음 사용자 프로필 아이콘을 클릭하고 User Settings를 클릭합니다.
   2. Create new API key를 클릭합니다.
   3. API 키에 대한 설명용 이름을 입력합니다.
   4. Create를 클릭합니다.
   5. 표시된 API 키를 즉시 복사하여 안전하게 보관합니다.

   Service account API key

   서비스 계정 소유의 API 키를 생성하려면:

   1. 팀이나 조직 설정에서 Service Accounts 탭으로 이동합니다.
   2. 목록에서 서비스 계정을 찾습니다.
   3. 작업 메뉴(...)를 클릭한 다음 Create API key를 클릭합니다.
   4. API 키 이름을 입력한 후 Create를 클릭합니다.
   5. 표시된 API 키를 바로 복사하여 안전하게 보관합니다.
   6. Done을 클릭합니다.

   하나의 서비스 계정에 대해 여러 개의 API 키를 생성하여 서로 다른 환경이나 워크플로에 사용할 수 있습니다.

   전체 API 키는 생성할 때만 한 번 표시됩니다. 대화 상자를 닫으면 전체 API 키를 다시 볼 수 없습니다. 설정에서는 키 ID(키의 첫 부분)만 확인할 수 있습니다. 전체 API 키를 분실한 경우 새 API 키를 생성해야 합니다.

   API 키를 안전하게 저장하는 방법은 API 키를 안전하게 저장하기를 참조하세요.

3. W&B 프로젝트
   사용량을 추적할 수 있도록 W&B 계정에서 프로젝트를 생성하세요

​

환경 설정하기 (Python)

Python에서 Inference API를 사용하려면 다음 작업도 수행해야 합니다:

1. 위의 일반 요구사항을 완료합니다.

2. 필요한 라이브러리를 설치합니다:

   pip install openai weave
   

Note

weave 라이브러리는 선택 사항이지만 사용하는 것을 권장합니다. 이 라이브러리를 사용하면 LLM 애플리케이션을 추적할 수 있습니다. 자세한 내용은 Weave 퀵스타트를 참고하세요.

Weave와 함께 W&B Inference를 사용하는 코드 예제는 usage examples에서 확인하세요.

​

다음 단계

사전 요구 사항을 모두 완료한 후에는 다음을 수행하세요:

• 사용 가능한 엔드포인트를 알아보려면 API reference를 확인하세요
• 서비스가 어떻게 동작하는지 보려면 usage examples를 시도해 보세요
• 웹 인터페이스를 통해 모델에 액세스하려면 UI guide를 사용하세요