프로젝트와 버전

프로젝트는 애플리케이션이 요청하는 안정적인 동작입니다. 각 프로젝트에는 Weights & Biases 프로젝트, 데이터셋, 파인튜닝 모델, 평가, 분석, 그리고 하나 이상의 라우팅 버전이 속합니다. 이 페이지에서는 프로젝트, 프로젝트 이름, 버전 간의 관계를 설명합니다. 이 관계를 이해하면 애플리케이션이 이미 보내고 있는 트래픽에 영향을 주지 않고 프로젝트의 라우팅을 변경할 수 있습니다.

관리 API 경로는 /projects/{alias}로 시작하며, 여기서 alias는 프로젝트 별칭입니다. 자세한 내용은 API 규칙을 참조하세요.

프로젝트 선택

애플리케이션은 OpenAI-Project: <entity>/<project> 헤더로 프로젝트를 선택합니다. <project>는 해당 프로젝트의 트레이스가 저장되는 Weights & Biases 프로젝트의 이름입니다. OpenAI SDK는 project 클라이언트 옵션이나 OPENAI_PROJECT_ID 환경 변수의 값으로 이 헤더를 전송합니다. 복사할 값은 Studio의 프로젝트 헤더와 프로젝트 설정 페이지에서 확인할 수 있습니다.

OpenAI-Project: your-team/ticket-classifier

헤더가 있으면 model은 모델만 선택합니다. model이 "router"이거나 빈 값이거나 생략된 경우에는 해당 버전의 가중치 기반 라우팅을 사용합니다. provider/model 값을 지정하면 프로젝트 내에서 모델을 재정의합니다. 자세한 내용은 모델 라우팅을 참조하세요. ticket-classifier와 같은 프로젝트 별칭은 Studio URL과 관리 API 경로에서 프로젝트를 식별하는 데 사용됩니다. 별칭은 Weights & Biases entity 내에서 고유하며, 프로젝트를 생성한 후에는 변경할 수 없습니다. 별칭은 Weights & Biases 프로젝트 이름과 다를 수 있으므로, 별칭을 바탕으로 값을 직접 구성하지 말고 Studio에서 OpenAI-Project 값을 복사하세요. 버전을 지정하지 않은 요청은 항상 버전 1로 처리됩니다. 버전 1은 고정된 기본값이며, 최신 버전을 가리키지 않습니다. 이후 버전을 사용하려면 다음과 같이 forge.project_version 메타데이터로 버전을 명시적으로 고정하세요:

{"model": "router", "metadata": {"forge.project_version": "2"}}

존재하지 않는 버전을 지정하면 404가 반환됩니다.

버전을 생성해야 하는 경우

애플리케이션의 현재 트래픽에 영향을 주지 않고 다른 모델 조합이나 공급자 매개변수를 실험하려면 새 버전을 생성하세요. 각 버전은 독립적인 라우팅 설정을 가집니다.

버전을 생성해도 트래픽이 전환되지는 않습니다. 호출자가 forge.project_version에 새 버전 번호를 보내야만 해당 버전으로 요청이 전달됩니다.

버전에 복사되지 않는 항목

버전은 프로젝트의 복사본이 아닙니다. 데이터셋, 파인튜닝 모델, 평가는 계속 프로젝트 수준의 리소스로 남습니다. 데이터셋 쿼리에서 어떤 프로젝트 버전의 트래픽을 사용할지 선택할 수 있습니다.

권장 진행 순서

프로덕션 트래픽이 새 버전에 도달하기 전에 새 버전을 검증하려면 다음 순서를 따르세요.

forge.project_version을 생략하여 프로덕션에서는 버전 1을 계속 사용하세요.
변경하려는 라우팅으로 새 버전을 생성하세요.
forge.project_version을 새 버전으로 설정하여 내부 트래픽이나 카나리 트래픽을 보내세요.
분석 결과와 평가를 검토하세요.
새 버전이 준비되었을 때만 애플리케이션에서 forge.project_version을 설정하세요.

이제 애플리케이션의 트래픽에는 새 버전의 라우팅이 적용됩니다.

API: 프로젝트 버전 생성 (POST /projects/{alias}/versions)

이 요청은 자체 라우팅을 갖는 다음 버전을 생성합니다. 응답에는 부여된 버전 번호가 포함됩니다.

curl --request POST \
  --url "https://forge.coreweave.com/api/distillation/v1/projects/ticket-classifier/versions" \
  --header "Authorization: Bearer $WANDB_API_KEY" \
  --header "Forge-Entity: your-team" \
  --header "Content-Type: application/json" \
  --data '{
    "targets": [
      {"model_ref": "wandb-inference/your-fine-tuned-model", "weight": 1}
    ]
  }'

전체 오퍼레이션은 프로젝트 버전 생성을 참조하세요.

Model Distillation

Serverless Training

프로젝트 선택

버전을 생성해야 하는 경우

버전에 복사되지 않는 항목

권장 진행 순서

​프로젝트 선택

​버전을 생성해야 하는 경우

​버전에 복사되지 않는 항목

​권장 진행 순서

프로젝트 선택

버전을 생성해야 하는 경우

버전에 복사되지 않는 항목

권장 진행 순서