Skip to main content
Serverless SFT를 사용하면 선별한 입력 및 출력 예시로 LLM을 지도 학습 방식으로 파인튜닝할 수 있습니다. Serverless SFT는 기본 모델을 사용자의 작업에 특화하는 저랭크 어댑터(LoRA)를 트레이닝하고, 이 어댑터를 Weights & Biases 계정에 아티팩트로 저장하며, 모든 체크포인트를 Serverless Inference에서 호스팅합니다. Serverless SFT는 현재 공개 프리뷰 단계입니다. Serverless SFT는 OpenPipe의 ART 프레임워크를 통해 실행하거나 Serverless Training API로 직접 실행할 수 있습니다.

​
사전 요구 사항

시작하기 전에 다음 항목을 준비하세요.
  • Forge 계정. 계정이 없다면 가입하세요.
  • API 키. Forge에서 프로필 아이콘을 클릭하고 Settings를 선택한 다음 Create new API key를 클릭하세요. 키는 다시 확인할 수 없으므로 표시될 때 바로 복사해 두세요. 이 문서의 예시에서는 WANDB_API_KEY 환경 변수에서 키를 읽어 옵니다. ART에서 키를 어디에 설정해야 하는지는 ART 퀵스타트를 참조하세요.
  • 트레이닝 메트릭을 기록하고 트레이닝된 어댑터를 저장할 Weights & Biases 프로젝트. Projects를 참조하세요.
  • 모델이 학습할 동작을 보여 주는 입력 및 출력 예시로 구성된 데이터셋. 필요한 형식은 ART Serverless SFT 문서에 설명되어 있습니다.
  • ART 프레임워크(API를 직접 호출하지 않고 ART를 사용하는 경우). ART 퀵스타트의 설치 단계를 따르세요.
또한 사용 정보 및 제한을 검토하여 비용과 제약 사항을 파악하고, 사용 가능한 모델에서 기본 모델을 선택하세요.

​
Serverless SFT를 사용해야 하는 경우

원하는 동작의 예시를 이미 가지고 있거나 만들 수 있다면 Serverless SFT가 적합합니다.
  • 증류(Distillation): 더 크고 성능이 뛰어난 모델의 출력으로 트레이닝하여 그 지식을 더 작고 빠른 모델로 이전합니다.
  • 출력 스타일 및 형식 학습: 특정 응답 형식, 어조 또는 구조를 따르도록 모델을 트레이닝합니다.
  • RL 전 워밍업: Serverless RL로 모델을 개선하기 전에 지도 학습용 예시를 먼저 제공합니다.
결과를 평가할 수는 있지만 이상적인 답을 미리 작성할 수 없다면 Serverless RL을 사용하세요.

​
모델 트레이닝

ART는 Serverless Training API를 래핑하여 데이터셋, 트레이닝 run, 체크포인트를 대신 관리해 줍니다. 처음 시작할 때는 이 방법을 권장합니다. ART Serverless SFT 문서를 참고하여 데이터셋을 준비하고 트레이닝 작업을 시작하세요.

​
트레이닝 후

트레이닝한 모든 체크포인트는 자동으로 호스팅됩니다. 체크포인트에 추론 요청을 보내려면 트레이닝된 모델 사용하기에 설명된 대로 팀, 프로젝트, 모델 이름, 트레이닝 단계를 조합해 모델 엔드포인트를 구성하세요. Serverless SFT와 Serverless RL로 트레이닝된 모델에도 동일한 엔드포인트 형식이 적용됩니다. 저장소 공간을 절약하려면 더 이상 필요하지 않은 체크포인트를 삭제하세요. 자세한 내용은 사용 정보 및 제한을 참조하세요.
마지막 수정일 2026년 9월 30일