Management API
UI도 이와 동일한 API를 사용합니다. 리소스는 영구적으로 유지되며, 비동기 오퍼레이션은 일반적으로202 Accepted와 함께 queued, building, running 또는 pending 상태를 반환합니다. 요청을 열어 둔 채 기다리지 말고 리소스의 GET 엔드포인트를 폴링하세요.
선택 사항인 Forge-Entity 헤더로 액세스 가능한 팀을 지정할 수 있습니다. 리소스 경로와 본문에는 entity 소유 정보를 다시 명시하지 않습니다.
추론 프록시
프록시 기본 URL을 지정해 OpenAI SDK를 사용하세요.OpenAI-Project: <entity>/<project> 헤더로 팀과 프로젝트를 선택하며, OpenAI SDK는 project 옵션에 지정된 값으로 이 헤더를 전송합니다. 이 헤더가 있으면 model을 "router"로 설정해 프로젝트의 가중치 기반 라우팅을 사용할 수 있고, {provider}/{model} 값을 지정해 프로젝트 내에서 모델을 재정의할 수 있습니다. 프로젝트 버전은 metadata["forge.project_version"]으로 선택하며, 생략하면 버전 1이 선택됩니다.
대화형 엔드포인트 페이지
이 섹션의 엔드포인트 페이지는 저장소에 체크인된 OpenAPI 3.1 사양을 바탕으로 생성됩니다. 두 API 모두에 대해 요청 빌더, 스키마, 응답 코드, 복사할 수 있는 예시를 제공합니다.Management API
공급자, 프로젝트, 데이터셋, 파인튜닝, 평가, 라우팅, 분석을 관리합니다.
Inference proxy
프로젝트 또는 등록된 공급자를 통해 OpenAI 호환 Chat Completion 요청을 보냅니다.
llms.txt에서 시작한 뒤, 엔드포인트, 스키마, 예시는 Management API 참조 또는 추론 프록시 API 참조에서 확인할 수 있습니다.