프로젝트와 트래픽

​

프로젝트 만들기

1. Projects에서 Create or import a project를 선택하세요.
2. 다음 필드를 설정하세요.
   • W&B project: 선택한 entity에 새 W&B 프로젝트를 만들려면 Create new를, 기존 W&B 프로젝트를 연결하려면 Import existing을 선택하세요. 임포트해도 기존 프로젝트의 데이터는 변경되지 않습니다. 하나의 W&B 프로젝트는 entity당 하나의 Model Distillation 프로젝트에만 연결할 수 있습니다.
   • Proxy model name: 애플리케이션이 프록시로 보내는 고정 model 값입니다. UI에서 W&B 프로젝트 이름을 바탕으로 이름을 제안합니다. 소문자, 숫자, 하이픈을 사용하여 최대 64자까지 입력할 수 있습니다. 프록시 모델 이름은 W&B 프로젝트 이름과 달라도 됩니다.
   • Initial model: 트레이스를 수집하고 대체 모델을 트레이닝하는 동안 버전 1을 서빙하는 모델입니다.
3. Create project를 선택하세요.

curl --request PUT \
  --url "https://distillation.training.wandb.ai/v1/tasks/ticket-classifier" \
  --header "Authorization: Bearer $WANDB_API_KEY" \
  --header "Wandb-Entity: your-team" \
  --header "Content-Type: application/json" \
  --data '{
    "project": "ticket-classifier",
    "project_mode": "create",
    "targets": [
      {"model_ref": "openai/gpt-5.6-sol", "weight": 1}
    ]
  }'

​

애플리케이션 연결

client = OpenAI(
    base_url="https://proxy.training.wandb.ai/v1",
    api_key=os.environ["WANDB_API_KEY"],
)

response = client.chat.completions.create(
    model="your-proxy-model-name",
    messages=messages,
    extra_body={
        "metadata": {
            "wandb.entity": "your-team",
            "wandb.thread_id": conversation_id,
        }
    },
)

​

유용한 트레이스 확인

• 성공한 Call이 프로젝트의 요청 차트에 표시되는지 확인합니다.
• 트래픽 비율이 라우팅 가중치와 일치하는지 확인합니다.
• 고정된 wandb.thread_id로 각 대화가 그룹화되는지 확인합니다.
• 도구 정의, 응답 형식, 멀티턴 메시지가 기록된 요청에 포함되어 있는지 확인합니다.
• 실패한 공급자 Call이 디버깅을 위해 표시되면서도 트레이닝 데이터에서는 제외되는지 확인합니다.