사전 요구 사항
시작하기 전에 다음을 완료하세요:- 공식 Azure 문서에 따라 Azure OpenAI 서비스를 설정하세요.
- W&B 계정과 API 키를 설정하세요.
워크플로 개요
다음 단계는 일반적인 Azure OpenAI fine-tuning 작업이 W&B를 통해 흐르는 방식을 요약한 것으로, 작업 준비부터 결과 모델 평가까지를 다룹니다.fine-tuning 설정
fine-tuning 설정은 다음 단계로 진행됩니다.- Azure OpenAI 요구 사항에 맞춰 트레이닝 데이터를 준비합니다.
- Azure OpenAI에서 fine-tuning 작업을 설정합니다.
- W&B로 fine-tuning 프로세스를 추적하고 메트릭과 하이퍼파라미터를 로깅합니다.
실험 추적
fine-tuning 중에 W&B는 다음을 캡처합니다:- 트레이닝 및 검증 메트릭.
- 모델 하이퍼파라미터.
- 리소스 사용량.
- 트레이닝 아티팩트.
모델 평가
fine-tuning 후, W&B Weave를 사용하여 다음을 수행하세요:- 레퍼런스 데이터셋에 대해 모델 출력을 평가합니다.
- 다양한 fine-tuning run 간의 성능을 비교합니다.
- 특정 테스트 케이스에서 모델 동작을 분석합니다.
- 모델 선택을 위한 데이터 기반 결정을 내립니다.
실제 예시
통합이 처음부터 끝까지 적용된 것을 확인하려면 다음 리소스를 살펴보세요:- 의료 노트 생성 데모를 살펴보고 이 인테그레이션이 어떻게 다음을 지원하는지 확인하세요:
- fine-tuning 실험의 체계적인 추적.
- 도메인별 메트릭을 사용한 모델 평가.
- 대화형 fine-tuning 노트북을 따라 해보세요.