프로젝트와 버전 - CoreWeave Docs

프로젝트는 애플리케이션이 요청하는 안정적인 동작입니다. 각 프로젝트에는 W&B 프로젝트, 데이터셋, 파인튜닝 모델, 평가, 분석, 그리고 하나 이상의 라우팅 버전이 속합니다. 이 페이지에서는 프로젝트, 프록시 모델 이름, 버전 간의 관계를 설명합니다. 이 관계를 이해하면 애플리케이션이 이미 보내고 있는 트래픽에 영향을 주지 않고 프로젝트의 라우팅을 변경할 수 있습니다.

Management API에서는 프로젝트를 task라고 부릅니다. API 경로는 /tasks/{alias}로 시작하며, 여기서 alias는 프록시 모델 이름입니다. 자세한 내용은 API 규칙을 참조하세요.

프록시 모델 이름

프록시 모델 이름은 ticket-classifier처럼 애플리케이션에서 사용하는 모델 문자열입니다. 이 이름은 W&B entity 내에서 고유하며, 모델이 바뀌어도 그대로 유지됩니다. 또한 프로젝트의 트레이스를 저장하는 W&B 프로젝트의 이름과 달라도 됩니다. 버전을 붙이지 않은 프록시 모델 이름은 항상 버전 1을 가리킵니다.

{"model": "ticket-classifier"}

더 최신 버전을 명시적으로 고정하세요:

{"model": "ticket-classifier@v2"}

버전을 생성해야 하는 경우

애플리케이션의 현재 트래픽에 영향을 주지 않고 다른 모델 조합이나 공급자 매개변수를 실험하려면 새 버전을 생성하세요. 각 버전은 독립적인 라우팅 설정을 가집니다.

버전을 생성해도 트래픽이 전환되지는 않습니다. 호출자가 model을 name@vN으로 변경해야만 해당 버전으로 요청이 전달됩니다.

버전에 복사되지 않는 항목

버전은 프로젝트의 복사본이 아닙니다. 데이터셋, 파인튜닝 모델, 평가는 계속 프로젝트 수준의 리소스로 남습니다. 데이터셋 쿼리에서 어떤 프로젝트 버전의 트래픽을 사용할지 선택할 수 있습니다.

권장 진행 순서

프로덕션 트래픽이 새 버전에 도달하기 전에 새 버전을 검증하려면 다음 순서를 따르세요.

프로덕션에서는 버전을 지정하지 않은 프록시 모델 이름과 버전 1을 계속 사용하세요.
변경하려는 라우팅으로 새 버전을 생성하세요.
내부 트래픽이나 카나리 트래픽을 name@vN으로 보내세요.
분석 결과와 평가를 검토하세요.
새 버전이 준비되었을 때만 애플리케이션에 설정된 모델을 변경하세요.

이제 애플리케이션의 트래픽에는 새 버전의 라우팅이 적용됩니다.

API: 프로젝트 버전 생성 (POST /tasks/{alias}/versions)

이 요청은 자체 라우팅을 갖는 다음 버전을 생성합니다. 응답에는 부여된 버전 번호가 포함됩니다.

curl --request POST \
  --url "https://distillation.training.wandb.ai/v1/tasks/ticket-classifier/versions" \
  --header "Authorization: Bearer $WANDB_API_KEY" \
  --header "Wandb-Entity: your-team" \
  --header "Content-Type: application/json" \
  --data '{
    "targets": [
      {"model_ref": "wandb-inference/your-fine-tuned-model", "weight": 1}
    ]
  }'

전체 오퍼레이션은 태스크 버전 생성을 참조하세요.

​프록시 모델 이름

​버전을 생성해야 하는 경우

​버전에 복사되지 않는 항목

​권장 진행 순서

프록시 모델 이름

버전을 생성해야 하는 경우

버전에 복사되지 않는 항목

권장 진행 순서