Serverless Inference에서 프롬프트, 모델 응답, 운영 메타데이터를 처리하는 방식을 알아보세요
제로 데이터 보존
CoreWeave가 직접 호스팅하고 서빙하는 모델의 경우, CoreWeave Serverless Inference는 기본적으로 제로 데이터 보존(ZDR) 아키텍처를 사용합니다. 고객 프롬프트와 모델 응답(“추론 콘텐츠”)은 추론 요청을 처리하는 데에만 사용되며, 정상적인 서비스 운영 중에는 영구 메모리에 저장되거나 로깅되지 않습니다. CoreWeave는 추론 콘텐츠를 모델 학습에 사용하지 않습니다.토큰 수, 요청 지연 시간 등의 운영 메타데이터는 서비스 운영 및 요금 청구를 위해 보존됩니다. 예외적인 오류 조건에서는 진단 로그에 추론 콘텐츠의 일부가 포함될 수 있으며, 이러한 로그는 최대 14일간 보존됩니다. 고객이 Agent Lens처럼 추론 콘텐츠를 로깅하거나 저장하는 선택 서비스를 활성화하는 경우, 해당 추론 콘텐츠에는 그 서비스의 보존 및 데이터 사용 정책이 적용됩니다.