Skip to main content
CoreWeave Forge SDK는 Python 및 Node.js용 OpenAI SDK로 수행하는 Call을 자동으로 트레이스합니다. 트레이싱을 초기화하면 대화 안에서 수행하는 각 Call이 Agent Lens에 LLM span으로 기록됩니다. 이때 메시지, 도구 Call, 요청 설정, 그리고 캐시된 토큰과 추론 토큰을 포함한 토큰 사용량도 함께 기록됩니다. OpenAI SDK를 호출하는 방식은 바꿀 필요가 없습니다. 이 인테그레이션은 Chat Completion(스트리밍 포함), 구조화된 출력 파싱, Responses API(스트리밍 포함), 이미지 생성을 트레이스합니다.

사전 요구 사항

  • CoreWeave Forge 계정 및 WANDB_API_KEY 환경 변수로 설정한 API 키
  • OPENAI_API_KEY 환경 변수로 설정한 OpenAI API 키
  • Python: Python 3.10 이상 및 openai 1.99.9 이상
  • TypeScript: Node.js 18.19 이상(또는 20.6 이상) 및 openai 4.0.0 이상

패키지 설치

OpenAI 대화 트레이싱

Forge 팀 이름과 프로젝트 이름을 지정해 tracing.init()을 호출하세요. Python에서는 OpenAI SDK를 이 호출 전후 언제 임포트하든 tracing.init()이 OpenAI SDK를 패치합니다. TypeScript에서는 TypeScript 탭에 나온 계측 플래그를 사용해 Node를 시작하세요. Agent Lens에는 대화 안에서 실행된 Call만 표시됩니다. 대화 밖에서 수행된 Call에는 대화 ID가 없으므로 Agent Lens에 나타나지 않습니다. 에이전트 세션마다 대화를 하나씩 생성하고, 사용자 메시지마다 턴을 시작하세요. 모든 턴이 대화의 ID를 공유하므로 Agent Lens는 이 턴들을 하나의 대화로 묶고, 각 Call은 자신이 실행된 턴의 LLM span이 됩니다.
요청당 하나의 턴을 처리하는 웹 앱처럼 나중에 기존 대화에 턴을 추가하려면, 대화를 생성할 때마다 동일한 conversation_id(Python) 또는 conversationId(TypeScript)를 전달하세요. 대화, 턴 및 기타 span 유형에 대한 자세한 내용은 에이전트 트레이싱을 참조하세요.

자동 패치 끄기

Python에서는 tracing.init()에 autopatch_integrations=False를 전달하세요. 그러면 tracing.integrations.patch_openai() 및 tracing.integrations.unpatch_openai()를 사용해 OpenAI SDK를 직접 패치하거나 패치를 해제할 수 있습니다. TypeScript에서는 --import=@coreweave/forge-sdk/instrument 플래그 없이 실행한 다음, 트레이스할 클라이언트만 integrations.wrapOpenAI()로 래핑하세요.

트레이스 보기

CoreWeave Forge의 제품 메뉴에서 Agent Lens를 선택하고, 사이드 메뉴 상단의 프로젝트 선택기에서 해당 프로젝트를 선택한 후 Conversations를 선택하세요. 자세한 내용은 에이전트 활동 보기를 참조하세요.
마지막 수정일 2026년 9월 30일