공급자 - CoreWeave Docs

공급자는 W&B entity를 위해 하나의 OpenAI-compatible API base URL과 해당 자격 증명을 저장합니다. 라우팅, 재레이블링, 평가는 {provider}/{model}을 통해 모델을 참고합니다.

공급자 등록

entity 메뉴를 열고 Providers를 선택한 후 다음을 입력하세요:

Name: 모든 model reference에 사용되는 소문자 식별자입니다(예: openai 또는 openrouter).
Base URL: 쿼리 매개변수나 내장 자격 증명 없이 /v1과 같은 필수 경로 접두사를 포함한 정확한 OpenAI-compatible API 루트입니다.
API key: 저장 전에 암호화되며 반환되지 않습니다.

호스팅된 공급자는 Cloudflare 프록시에 비동기적으로 게시됩니다. 공급자는 배포가 현재 리비전에서 Applied 상태일 때 라우팅된 요청에 준비됩니다.

API: 공급자 등록 (PUT /providers/{provider})

The provider name is the last URL segment. 이 예제는 openai를 등록합니다:

curl --request PUT \
  --url "https://distillation.training.wandb.ai/v1/providers/openai" \
  --header "Authorization: Bearer $WANDB_API_KEY" \
  --header "Wandb-Entity: your-team" \
  --header "Content-Type: application/json" \
  --data "{
    \"base_url\": \"https://api.openai.com/v1\",
    \"api_key\": \"$OPENAI_API_KEY\"
  }"

GET /providers/openai를 폴링하여 배포가 applied 상태가 될 때까지 기다리세요. 공급자 생성 또는 교체를 참조하세요.

The UI uses POST /responses for the openai 공급자이므로 relabeling과 evaluations가 OpenAI 추론과 도구 호출 동작을 유지합니다. 다른 공급자는 OpenAI-compatible POST /chat/completions 엔드포인트를 구현해야 합니다.

모델 ID 활성화

공급자의 모델 목록을 확장하여 다음을 수행할 수 있습니다:

UI 선택기에서 알려진 모델을 활성화하거나 비활성화합니다;
해당 공급자가 노출하는 맞춤형 모델 ID를 추가합니다;
백만 토큰당 USD로 선택적 입력 및 출력 가격을 설정합니다.

모델을 활성화하면 UI 검색 가능성이 변경되며, 런타임 권한은 변경되지 않습니다. 카탈로그 항목이 비활성화된 경우에도 기존 라우팅 레퍼런스는 계속 호출할 수 있습니다.

기본 제공 `wandb-inference`

모든 entity에는 wandb-inference라는 시스템 공급자가 있습니다. 이 공급자는 자격 증명을 따로 저장하지 않고 호출자의 W&B 키를 사용합니다. W&B에서 호스팅하는 카탈로그 모델과 파인튜닝된 아티팩트에는 이 공급자를 사용하세요. 같은 이름으로 공급자를 명시적으로 등록하면 패스스루 방식 대신 저장된 자격 증명을 사용하도록 바꿀 수 있습니다. 이렇게 재정의한 공급자를 삭제하면 다음에 사용할 때 시스템 공급자가 복원됩니다.

공급자 교체 또는 삭제

공급자 양식을 다시 제출하면 해당 공급자의 URL 또는 키가 교체되고 새 리비전이 게시됩니다. 이 공급자를 참조하는 라우트와 평가는 계속 공급자 이름을 사용합니다. 라우팅, 재레이블링 또는 평가 설정에서 공급자를 참조하고 있으면 삭제할 수 없습니다. 운영 중인 프로젝트가 모르는 사이에 연결이 끊기지 않도록 먼저 해당 참조를 제거하세요.

​공급자 등록

​모델 ID 활성화

​기본 제공 wandb-inference

​공급자 교체 또는 삭제

공급자 등록

모델 ID 활성화

기본 제공 `wandb-inference`

공급자 교체 또는 삭제