API 개요

W&B Inference 서비스에 대한 전체 API 레퍼런스

W&B Inference API를 사용하여 프로그램에서 파운데이션 모델에 액세스하는 방법을 알아봅니다.

​

기본 URL

Inference 서비스에 액세스하려면 다음 URL을 사용하세요:

https://api.inference.wandb.ai/v1

중요

이 엔드포인트를 사용하려면 다음이 필요합니다:

• Inference 크레딧이 있는 W&B 계정
• 유효한 W&B API key

여러 팀에 속해 있거나 사용량을 특정 프로젝트에 할당하려면 팀 및 프로젝트 ID도 필요합니다. 코드 예제에서는 <your-team>/<your-project>로 표시됩니다. 지정하지 않으면 기본 엔터티와 inference라는 프로젝트 이름이 사용됩니다.

​

사용 가능한 메서드

W&B Inference API는 파운데이션 모델과 상호작용할 수 있는 OpenAI 호환 엔드포인트를 제공합니다.

• Chat Completions - 다양한 파운데이션 모델을 사용해 채팅 응답을 생성합니다
• List Models - 사용 가능한 모든 모델과 해당 ID를 조회합니다

​

인증

모든 API 요청은 W&B API key를 사용하여 인증해야 합니다. wandb.ai/settings에서 API key를 생성하세요.

요청 헤더에 API key를 포함하세요:

• OpenAI SDK의 경우: api_key 파라미터로 설정하세요.
• 직접 API 호출의 경우: Authorization: Bearer <your-api-key>를 사용하세요.

​

오류 처리

모든 오류 코드와 해결 방법은 API Errors를 참고하세요.

​

다음 단계

• 사용 예제를 실행해 API가 어떻게 동작하는지 확인하세요
• UI에서 모델을 살펴보세요
• 계정의 사용 한도를 확인하세요