Model Distillation
애플리케이션의 실제 트래픽에서 트레이닝 데이터를 수집하고, 더 큰 모델에 필적하는 더 작은 모델을 트레이닝하고, 두 모델을 비교한 다음, 더 나은 모델을 점진적으로 배포하세요.
Serverless RL
강화 학습으로 모델을 Post-training하여, 보상 함수로 점수를 매기는 멀티턴 작업에서 에이전트의 성능을 향상시키세요.
Serverless SFT
선별된 입력 및 출력 예시로 모델을 파인튜닝하여 작업, 스타일 또는 형식을 학습시키세요.
서비스 선택
- Model Distillation은 UI를 갖춘 가이드 워크플로입니다. distillation proxy를 통해 애플리케이션을 연결하면 예시를 수집하고, 후보 모델을 트레이닝하고, 평가한 후 선택한 모델로 트래픽을 라우팅합니다. 이미 LLM 기능을 프로덕션에서 사용 중이며 이를 위한 더 저렴하고 빠른 모델을 원한다면 여기서 시작하세요. Model Distillation은 비공개 프리뷰입니다. Forge의 Post-Training 페이지에서 액세스를 요청하세요.
- Serverless RL과 Serverless SFT는 프로그래밍 방식입니다. OpenPipe ART framework 또는 Serverless Training API를 통해 코드에서 구동하며, 직접 보상 함수 또는 데이터셋을 제공합니다. 둘 다 공개 프리뷰입니다. 비교 방법과 공유하는 점은 About Serverless Training을 참조하세요.