시작하기 전에 프로젝트를 통해 실제 사용 패턴을 대표하는 요청을 보내세요. UI에서 모델 가격을 자동으로 파악할 수 없다면 모델 가격을 직접 설정하여 비용 비교에 필요한 가격 적용 범위를 충분히 확보하세요.
1
시간 범위 선택
프로젝트의 Analytics 페이지를 열고 1시간에서 3개월 사이의 범위를 선택하세요. 후보 모델이 처리하게 될 트래픽을 잘 대표하는 범위를 선택하는 것이 좋습니다.
2
트래픽 상태 확인
요청량, 라우팅된 모델 비율, 프로젝트 버전, 토큰량, 공급자 오류를 검토하세요. 비용을 비교하기 전에 예상치 못한 오류나 라우팅 변경 사항이 있다면 먼저 해결하세요.
3
가격 적용 범위 확인
다음 단계의 비용 비교에 두 모델이 정확하게 반영되도록, 비교하려는 모델들의 가격 적용 범위가 비슷한지 확인하세요. UI에서 가격을 찾을 수 없다면 공급자 또는 파인튜닝 설정에서 가격을 수동으로 추가하세요.
4
모델 비용 비교
비용 계산기에서 비교할 모델을 선택하세요. 선택한 범위의 모든 트래픽에 해당 모델을 사용했다고 가정했을 때의 예상 비용과 절감액을 검토하세요.이 결과는 추정치일 뿐입니다. 평가와 애플리케이션 메트릭을 활용하여 더 저렴한 모델로도 애플리케이션에 필요한 품질이 유지되는지 확인하세요.
5
롤아웃 모니터링
라우팅을 변경한 후에는 후보 모델이 의도한 비율의 트래픽을 받는지, 오류가 안정적으로 유지되는지, 예상 비용이 기대한 방향으로 변하는지 확인하세요.
Analytics 메트릭 및 가격
UI에서 트래픽, 토큰, 오류, 비용 뷰를 계산하는 방식을 알아보세요.