시작하기 전에 공급자의 API 기본 URL, API 키, 해당 엔드포인트에서 제공하는 모델 ID가 하나 이상 필요합니다. 기본 제공
wandb-inference 공급자만 사용하는 경우 공급자 등록을 건너뛸 수 있습니다.1
공급자 설정 열기
UI에서 entity 메뉴를 열고 Providers를 선택하세요. 공급자 설정은 선택한 W&B entity에 적용됩니다.
2
공급자 등록
Add provider에서 소문자로 된 공급자 이름, OpenAI 호환 API 기본 URL, API 키를 입력하세요. 그런 다음 Add provider를 선택하세요.UI는 API 키를 저장하기 전에 암호화하고 호스팅된 공급자의 변경 사항을 비동기적으로 게시합니다.
3
공급자가 사용 가능한 상태가 될 때까지 대기
공급자를 펼치고 현재 리비전의 배포 상태가 Applied인지 확인하세요.
4
모델 활성화
공급자의 모델 목록에서 알려진 모델을 활성화하거나 엔드포인트에서 제공하는 정확한 모델 ID를 추가하세요. UI에서 비용을 추정하도록 하려면 입력 및 출력 가격을 추가하세요.이제 모델이 UI의 모델 선택기에
{provider}/{model}로 표시됩니다.공급자 동작 및 API 옵션
사용자 인증 정보를 교체하고, 모델을 관리하고, 공급자를 안전하게 삭제하는 방법을 알아보세요.