모델 라우팅 - CoreWeave Docs

model의 첫 번째 슬래시는 직접 공급자 참조와 프록시 모델 이름을 구분합니다.

프록시 모델 이름

{"model": "ticket-classifier"}

프록시는 버전 1에 대한 라우팅을 읽고, 양수 가중치를 가진 대상 중에서 선택하며, model을 교체한 후 대상의 공급자를 호출합니다.

버전 고정

{"model": "ticket-classifier@v3"}

버전 고정은 정확히 버전 3을 참조합니다. 최신 버전으로 자동 전환되지 않으며 버전 1을 변경하지도 않습니다. 따라서 애플리케이션을 배포하기 전에 새 버전을 안전하게 테스트할 수 있습니다.

모델 공급자 직접 Call

{"model": "openai/gpt-5.6-sol?reasoning_effort=medium"}

첫 번째 슬래시 앞의 접두사는 확인된 W&B entity에서 공급자를 선택합니다. 나머지 부분은 설정된 공급자 모델 ID이며, 슬래시를 추가로 포함할 수 있습니다. 직접 Call은 재레이블링, 평가자, 임시 비교, 공급자 설정 검증에 유용합니다. 직접 Call은 프로젝트 라우팅을 거치지 않고, 어떤 프로젝트에도 귀속되지 않으며, 요청에서 wandb.project를 설정하지 않으면 트레이스되지 않습니다. 자세한 내용은 메타데이터 및 트레이스를 참조하세요.

entity 확인

본문에 다음 항목이 포함되어 있지 않으면 bearer 키의 기본 entity가 사용됩니다.

{
  "metadata": {
    "wandb.entity": "your-team"
  }
}

요청된 값은 호출자의 개인/기본 entity이거나 해당 사용자의 W&B 팀 중 하나여야 합니다.

고정 가중치 선택

라우팅 리비전에서 한 대화의 모든 Call이 동일한 대상을 사용하도록 대화 ID를 제공하세요:

{
  "metadata": {
    "wandb.thread_id": "conversation-4827"
  }
}

라우팅 리비전을 변경하면 해당 키를 의도적으로 다른 대상으로 옮길 수 있습니다.

API: 고정된 프로젝트 버전 호출 (POST /chat/completions)

model에 alias@vN을 지정하세요. 공급자를 직접 호출할 때는 provider/model-id를 대신 사용합니다.

curl --request POST \
  --url "https://proxy.training.wandb.ai/v1/chat/completions" \
  --header "Authorization: Bearer $WANDB_API_KEY" \
  --header "Content-Type: application/json" \
  --data '{
    "model": "ticket-classifier@v2",
    "messages": [{"role": "user", "content": "Classify this request"}],
    "metadata": {"wandb.entity": "your-team"}
  }'

전체 스키마는 라우팅된 Chat Completion 생성을 참조하세요.

​프록시 모델 이름

​버전 고정

​모델 공급자 직접 Call

​entity 확인

​고정 가중치 선택

프록시 모델 이름

버전 고정

모델 공급자 직접 Call

entity 확인

고정 가중치 선택