메인 콘텐츠로 건너뛰기
웹 UI를 통해 W&B Inference 서비스를 사용하는 방법을 알아보세요. UI를 사용하기 전에 사전 요구사항을 완료하세요.

Inference 서비스에 액세스하기

Inference 서비스에는 다음 세 가지 방법으로 액세스할 수 있습니다: https://wandb.ai/inference로 이동하세요.

Inference 탭에서

  1. https://wandb.ai/에서 W&B 계정에 로그인합니다.
  2. 왼쪽 사이드바에서 Inference를 선택합니다.
  3. 사용 가능한 모델과 해당 모델 정보가 표시된 페이지가 나타납니다.
Playground에서 Inference 모델 사용하기

Playground 탭에서

  1. 왼쪽 사이드바에서 Playground를 선택합니다. Playground 채팅 UI가 표시됩니다.
  2. LLM 드롭다운 목록에서 W&B Inference 위에 마우스를 올립니다. 그러면 오른쪽에 사용 가능한 모델이 드롭다운으로 표시됩니다.
  3. 모델 드롭다운에서는 다음을 수행할 수 있습니다:
Playground에서 Inference 모델 드롭다운

Playground에서 모델 사용해 보기

모델을 선택한 뒤 Playground에서 모델을 사용해 볼 수 있습니다. 수행할 수 있는 작업은 다음과 같습니다:

여러 모델 비교하기

Playground에서 Inference 모델을 나란히 비교할 수 있습니다. Compare 보기에는 두 가지 방법으로 접근할 수 있습니다:

Inference 탭에서

  1. 왼쪽 사이드바에서 Inference를 선택합니다. 사용 가능한 모델 페이지가 표시됩니다.
  2. 모델 이름을 제외한 모델 카드의 아무 곳이나 클릭하여 카드를 선택합니다. 카드 테두리가 파란색으로 바뀝니다.
  3. 비교하려는 각 모델에 대해 이 과정을 반복합니다.
  4. 선택된 카드 중 아무 카드에서나 Playground에서 N개 모델 비교를 클릭합니다. N은 선택한 모델 수를 나타냅니다.
  5. 비교 뷰가 열립니다.
이제 모델을 비교하고 Playground에서 모델 체험하기에 나온 모든 기능을 사용할 수 있습니다.
Playground에서 비교할 여러 모델 선택

Playground 탭에서

  1. 왼쪽 사이드바에서 Playground를 선택합니다. Playground 채팅 UI가 표시됩니다.
  2. LLM 드롭다운 목록에서 W&B Inference 위로 마우스를 가져갑니다. 오른쪽에 모델 드롭다운이 표시됩니다.
  3. 드롭다운에서 Compare를 선택합니다. Inference 탭이 나타납니다.
  4. 모델 카드에서 (모델 이름을 제외한) 아무 곳이나 클릭하여 선택합니다. 카드 테두리가 파란색으로 바뀝니다.
  5. 비교하려는 각 모델에 대해 이 과정을 반복합니다.
  6. 선택된 카드 중 아무 카드에서나 Compare N models in the Playground를 클릭합니다. 비교 뷰가 열립니다.
이제 모델을 비교하고 Try a model in the Playground에 설명된 모든 기능을 사용할 수 있습니다.

결제 및 사용량 정보 확인

조직 관리자는 W&B UI에서 크레딧 잔액, 사용 이력, 예정된 청구 내역을 확인할 수 있습니다.
  1. UI에서 W&B Billing 페이지로 이동합니다.
  2. 오른쪽 하단에서 Inference 결제 정보 카드를 찾습니다.
  3. 여기에서 다음을 수행할 수 있습니다:
    • View usage를 클릭하여 시간 경과에 따른 사용량을 확인합니다.
    • 예정된 Inference 요금(유료 플랜)을 확인합니다.
모델별 요금에 대한 자세한 내용은 Inference 요금 페이지를 참고하세요.

다음 단계

  • 사용 사례에 가장 적합한 모델을 찾기 위해 사용 가능한 모델을 검토하세요
  • 프로그램에서 사용하기 위해 API를 사용해 보세요
  • 코드 예제를 보려면 사용 예시를 확인하세요